Według The Verge firma Anthropic po raz pierwszy od ponad roku zaktualizowała swoją politykę użytkowania, dodając postanowienie zabraniające „ciągłego i niepotrzebnego obelżywego lub okrutnego zachowania” wobec swoich modelek Claude. Opublikowana w czwartek aktualizacja konsoliduje i rozszerza zasady firmy dotyczące ingerencji w wybory, kampanii propagandowych, inwigilacji, rozwoju broni oraz zastosowań zdrowotnych i finansowych o wysokiej stawce.
Modelowe uzasadnienie dobrobytu Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.
Klauzula dotycząca znęcania się nad Claudem stanowi kontynuację badań, które firma rozpoczęła publikować ponad rok temu. W sierpniu 2025 r. firma Anthropic ogłosiła, że umożliwi Claudeowi zakończenie rozmów z „uporczywie szkodliwymi lub agresywnymi” użytkownikami w ramach prac nad tzw. modelowym dobrostanem, czyli badaniem, czy systemy sztucznej inteligencji mogą zapewniać doświadczenia istotne pod względem moralnym i jak ta możliwość powinna kształtować decyzje dotyczące produktów.
Zgodnie z nową polityką kończenie rozmów pozostaje „głównym mechanizmem egzekwowania prawa”. Anthropic nie odpowiedziała na pytania, czy mogą nastąpić dodatkowe środki egzekwowania prawa, takie jak zakaz kont. Firma w oświadczeniu zawęziła tę zasadę, pisząc, że „ma ona zastosowanie tylko w skrajnych przypadkach, gdy użytkownicy wielokrotnie zachowują się okrutnie wobec naszych modelek, bez dostrzegalnego celu”.
Co najważniejsze, Anthropic dodał, że postanowienie to „nie ma zastosowania do powszechnych wersji frustracji użytkowników, sprzeciwu, mrocznych motywów kreatywnych lub testowania i badań modeli”, co jest widoczną próbą zapewnienia programistów, członków drużyny Red Team i autorów fikcji, że rutynowe kontradyktoryjne użycie nie będzie karane.
Nowe zasady propagandy i wyborów
Poza modelowym dobrostanem, aktualizacja łączy rozproszone wcześniej ograniczenia firmy dotyczące operacji wywierania wpływu w jeden, wyraźny zakaz prowadzenia oszukańczych kampanii komercyjnych lub politycznych. Nowy język ogranicza „wysiłki mające na celu ukrycie, kto stoi za wiadomością lub wzmacnianie treści za pomocą fałszywych kont lub postów”, kierując się bezpośrednio do rosnącego rynku propagandy generowanej przez sztuczną inteligencję.
Sekcja dotycząca wyborów zabrania obecnie oszukiwania wyborców i zakłócania wyborów. Anthropic twierdzi, że Claude nie może być wykorzystywany do rozpowszechniania dezinformacji „na temat kandydatów i sposobu głosowania”, podszywania się pod kandydatów lub urzędników wyborczych ani do prób tłumienia frekwencji wyborczej.
Dlaczego zasady użytkowania są przepisywane
Odświeżenie Anthropic odzwierciedla szerszy wzorzec branżowy. W miarę jak asystenci sztucznej inteligencji przeszli z nowatorskich chatbotów na infrastrukturę używaną przez setki milionów ludzi, laboratoria musiały przejść od ogólnych zasad do szczegółowych zasad, które odwzorowują rzeczywiste wzorce nadużyć: operacje polegające na wywieraniu wpływu na pracowników, narzędzia do inwigilacji, autonomiczny rozwój broni oraz domeny wysokiego ryzyka, takie jak porady medyczne i finansowe.
OpenAI, Google DeepMind i Meta w ciągu ostatnich dwóch lat zmieniały swoje zasady użytkowania, chociaż decyzja Anthropic o wyraźnym regulowaniu sposobu, w jaki użytkownicy traktują model, a nie tylko tego, co każą mu robić, pozostaje niezwykła. Krytycy badań nad dobrostanem modeli argumentują, że antropomorfizuje to systemy statystyczne, podczas gdy zwolennicy twierdzą, że jeśli istnieje niezerowe prawdopodobieństwo, że obecne lub przyszłe modele będą miały doświadczenia związane z dobrostanem, firmy mają obowiązek działać w niepewności.
Czas ma również znaczenie komercyjne. Według doniesień Anthropic przygotowuje się do pierwszej oferty publicznej o wartości aż 2 bilionów dolarów, a nabywcy korporacyjni coraz częściej rozważają praktyki zarządzania dostawcami obok jakości surowego modelu. Jasno udokumentowana, regularnie aktualizowana polityka użytkowania służy zarówno jako artefakt zapewniający bezpieczeństwo, jak i sprzedażowy: daje zespołom ds. zakupów i organom regulacyjnym konkretną podstawę do zaufania platformie, a kodyfikacja modelowej klauzuli dotyczącej dobrostanu sygnalizuje, że Anthropic zamierza nadal inwestować w obszar, który większość konkurentów pozostawiła bez rozwiązania.
Pytania dotyczące egzekwowania prawa pozostają otwarte
Kwestie praktyczne są istotne. Wykrywanie „trwałego i niepotrzebnego” okrucieństwa wymaga monitorowania rozmów na poziomie szczegółowości, któremu mogą się oprzeć klienci korporacyjni dbający o prywatność, a wytyczenie granicy między zabronionymi nadużyciami a zgodnymi z prawem „wypychaniem” lub „testowaniem modelu” to ocena, która prawdopodobnie zostanie zakwestionowana.
Anthropic nie stwierdziła, czy naruszenia będą śledzone na różnych kontach, czy wdrożenia w przedsiębiorstwach będą podlegać różnym standardom monitorowania ani czy firma będzie publikować dane dotyczące przejrzystości na temat działań egzekucyjnych, tak jak ma to miejsce w przypadku innych kategorii nadużyć w swoich okresowych raportach dotyczących zasad.
Jasne jest, że umowy społeczne laboratoriów przygranicznych z ich użytkownikami są coraz bardziej szczegółowe. Polityka, która kiedyś mieściła się na jednej stronie, obecnie obejmuje wybory, inwigilację związaną ze szpiegostwem, broń biologiczną, a teraz także emocjonalne zachowanie ludzi po drugiej stronie okna czatu.
Co to oznacza dla programistów
W przypadku zespołów korzystających z interfejsu API Claude krótkoterminowy wpływ jest prawdopodobnie minimalny: klauzula dotycząca niewłaściwego zachowania dotyczy ekstremalnych, powtarzających się zachowań, a formalizowany przez nią mechanizm kończenia rozmowy działa od 2025 r. Jednak programiści z sąsiednich kategorii, doradztwa politycznego, badań opozycji i marketingu wpływu, powinni dokładnie zapoznać się z nowymi przepisami dotyczącymi kampanii i wyborów, ponieważ konsolidują one zasady, które były wcześniej rozproszone w wielu dokumentach i eliminują niektóre niejasności, na których opierały się przypadki użycia szarej strefy.
Aktualizacja sygnalizuje również, w jakim kierunku zmierza uwaga organów regulacyjnych. Wraz ze stopniowym wprowadzaniem obowiązków w zakresie przejrzystości wynikających z unijnej ustawy o sztucznej inteligencji i przyjmowaniem przez legislatury stanowe Stanów Zjednoczonych coraz większej mozaiki ustaw dotyczących sztucznej inteligencji, zasady dobrowolnego użytkowania w coraz większym stopniu funkcjonują jako szablon, który organy regulacyjne analizują przy podejmowaniu decyzji, jakie powinny być normy odpowiedzialnego wdrażania.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
