Dyrektor naczelny firmy Anthropic, Dario Amodei, ostrzegł prawodawców, że przyspieszający trend w kierunku sztucznej inteligencji typu open source może sprowadzić społeczeństwo na niebezpieczną ścieżkę, jeśli potężne modele zostaną wydane bez odpowiednich zabezpieczeń, co ponownie zapoczątkowuje jedną z najbardziej kontrowersyjnych debat w polityce sztucznej inteligencji.
Amodei, który założył i kieruje firmą stojącą za rodziną modeli Claude, argumentował, że wyjątkowy charakter sztucznej inteligencji o otwartym kodzie źródłowym, dzięki któremu zaawansowane systemy są swobodnie dostępne dla każdego do pobrania, modyfikowania i wdrażania, stwarza ryzyko, jakiego nigdy nie stwarzało konwencjonalne oprogramowanie typu open source. Jego uwagi, zgłoszone przez Tekedia, koncentrują się na trudnościach w kontrolowaniu zdolnej sztucznej inteligencji po jej publicznym rozpowszechnieniu. Więcej kontekstu tej historii znajdziesz w naszych bieżących więcej historii o sztucznej inteligencji.
W przeciwieństwie do tradycyjnego oprogramowania, najnowocześniejsze systemy sztucznej inteligencji mogą generować przekonujący tekst, tworzyć realistyczne obrazy, pisać kod komputerowy i pomagać w zadaniach związanych z cyberbezpieczeństwem. Amodei twierdzi, że w niewłaściwych rękach te możliwości mogą zostać wykorzystane do automatyzacji cyberataków, prowadzenia wyrafinowanych kampanii dezinformacyjnych lub wspierania szkodliwych badań biologicznych.
Problem trwałości
Jednym z głównych zagrożeń, na które zwrócił uwagę Amodei, jest to, że gdy potężny model zostanie ujawniony otwarcie, jego przypomnienie staje się praktycznie niemożliwe. Zamknięte systemy obsługiwane przez firmy mogą być monitorowane, łatane i ograniczane w przypadku pojawienia się nowych luk w zabezpieczeniach. Z kolei model open source można kopiować w nieskończoność i rozpowszechniać w Internecie, nie pozostawiając programistom żadnego mechanizmu ograniczającego jego wykorzystanie po wydaniu.
Ta trwałość, ostrzegał Amodei, jest szczególnie niepokojąca, gdy modele zbliżają się do wydajności na poziomie ludzkim w przypadku coraz bardziej złożonych zadań. Twierdził, że zaawansowaną sztuczną inteligencję należy poddać solidnym testom bezpieczeństwa, kontrolowanemu wdrożeniu i odpowiedniemu nadzorowi regulacyjnemu, zanim stanie się ona powszechnie dostępna, a nie traktować ją jak zwykłe oprogramowanie, które można udoskonalać wspólnie i na otwartej przestrzeni.
Jego pozycja odzwierciedla rosnącą linię podziału w branży. Zwolennicy sztucznej inteligencji typu open source argumentują, że publiczny dostęp pobudza konkurencję, demokratyzuje postęp technologiczny i uniemożliwia garstce korporacji monopolizację sztucznej inteligencji. Programiści na całym świecie mogą sprawdzać architekturę modeli, wady zabezpieczeń powierzchni i wspólnie ulepszać systemy, podczas gdy start-upy, badacze i instytucje edukacyjne mogą tworzyć bez konieczności korzystania z drogich, zastrzeżonych platform.
Konkretne ryzyko na stole
Obawy Amodei nie są abstrakcyjne. Modele udostępnione publicznie zostały już pozbawione barier ochronnych przez badaczy stosujących proste techniki dostrajania. Praktyka ta pokazała, jak szybko można usunąć środki ochronne po upublicznieniu wagi. W miarę jak modele stają się coraz bardziej zdolne do wykonywania zadań takich jak chemia, biologia i eksploatacja oprogramowania, pojawia się obawa, że otwarte wydania mogą udostępnić potężne możliwości aktorom, którzy nigdy nie przejdą kontroli, jaką odpowiedzialne laboratoria nakładają na swoich klientów.
Badano także wymiar dezinformacji. Modele, które mogą generować realistyczny tekst, obrazy i dźwięk na dużą skalę, można wykorzystać do ingerencji w wybory, oszustw finansowych lub masowej produkcji propagandy. Amodei zauważył, że ponieważ model otwarty działa całkowicie na sprzęcie atakującego, nie ma interfejsu API, który mógłby ograniczyć przepustowość, konta do zawieszenia ani dostawcy, którego można by pociągnąć do odpowiedzialności po wyrządzeniu szkód.
Konkurencyjne tło
Ostrzeżenia Amodei pojawiają się w obliczu napływu wydajnych otwartych modeli od chińskich programistów. GLM-5.2 firmy Zhipu, wraz z innymi tanimi chińskimi systemami, zwrócił nową uwagę na to, jak szybko otwarte i ogólnodostępne modele zapełniają lukę w stosunku do pionierskich, zastrzeżonych systemów firm Anthropic i OpenAI. Ta presja konkurencyjna zintensyfikowała debatę polityczną na temat tego, czy ograniczenia dotyczące otwartego udostępniania przyniosłyby korzyść dominującym firmom, czy też naraziłyby społeczeństwa na nadużycia.
Krytycy stanowiska Amodei twierdzą, że ograniczenie sztucznej inteligencji typu open source może w sposób niezamierzony umocnić duże firmy technologiczne poprzez ograniczenie niezależnych innowacji. Zauważają również, że przejrzystość często pozwala naukowcom identyfikować luki szybciej niż ma to miejsce w przypadku zamkniętego rozwoju. Nawet wielu zwolenników otwartego rozwoju przyznaje jednak, że coraz potężniejsze systemy mogą wymagać silniejszych ram zarządzania niż poprzednie generacje oprogramowania.
Lina regulacyjna
Dyskusja stała się pilna, ponieważ rządy na całym świecie rozważają nowe regulacje dotyczące sztucznej inteligencji. Decydenci stoją przed trudną równowagą: nadmierne ograniczenia mogą spowolnić wzrost gospodarczy i odkrycia naukowe, natomiast niewystarczający nadzór może narazić społeczeństwa na trudne do przewidzenia ryzyko. Znalezienie tej równowagi, zasugerował Amodei, wymaga współpracy między rządami, firmami technologicznymi, badaczami akademickimi i społeczeństwem obywatelskim.
Jego zeznania podkreślają jedną z najważniejszych debat na temat polityki technologicznej tej dekady. W miarę zwiększania się możliwości sztucznej inteligencji społeczeństwo musi zdecydować, w jaki sposób wspierać innowacje, minimalizując jednocześnie zagrożenia związane z powszechnym dostępem do systemów transformacyjnych. Niezależnie od tego, czy chodzi o regulacje, standardy branżowe, czy współpracę międzynarodową, wybory dokonane w nadchodzących miesiącach w zakresie sztucznej inteligencji typu open source mogą w nadchodzących latach ukształtować to, kto będzie kontrolował technologię i sposób jej bezpiecznego wdrażania.
W przypadku Anthropic stanowisko to jest spójne z długotrwałym naciskiem firmy na bezpieczeństwo sztucznej inteligencji i kontrolowane uwalnianie. Jednak w obliczu szybkiego rozwoju otwartych modeli i wysiłków organów regulacyjnych, które wciąż starają się nadrobić zaległości, różnica między ostrzeżeniami Amodei a tempem ruchu na rzecz otwartego oprogramowania może zmniejszać się szybciej, niż decydenci będą w stanie ją zamknąć.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
