Król Karol III wydał w czwartek surowe ostrzeżenie dotyczące „egzystencjalnych zagrożeń” związanych ze sztuczną inteligencją, zwracając się do dyrektorów firm Nvidia, Google DeepMind i OpenAI zebranych w jego posiadłości Dumfries House w Szkocji na szczycie wysokiego szczebla na temat przyszłości tej technologii.
Monarcha powiedział zgromadzonym liderom branży, że należy pilnie stawić czoła zagrożeniom stwarzanym przez coraz potężniejsze systemy sztucznej inteligencji, szczególnie jeśli technologia ta zostanie kontrolowana przez złośliwe podmioty. Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.
„Wydaje się pilne, aby odpowiednio rozważyć egzystencjalne zagrożenia, jakie stwarzają takie technologie, które wpadną w niepowołane ręce i zostaną wykorzystane w potencjalnie katastrofalny sposób” – powiedział król przywódcom zgromadzonym w posiadłości Ayrshire, według doniesień ABC News i wielu innych mediów.
Podwójne przesłanie: obietnica i niebezpieczeństwo
Przemówienie króla nie oznaczało całkowitego odrzucenia tej technologii. Przyznał, że sztuczna inteligencja niesie ze sobą ogromny potencjał dobra, wskazując w szczególności nauki przyrodnicze i medycynę, gdzie narzędzia AI są coraz częściej wykorzystywane do przyspieszania badań i poprawy wyników leczenia pacjentów.
Połączył jednak ten optymizm z przestrogą, że sami twórcy tej technologii coraz częściej ostrzegają, że zaawansowane systemy mogą rozwinąć bardziej mroczne możliwości, „być może nawet pozbawić życia” – stwierdził, zgodnie z relacją nadawcy dotyczącą jego uwag.
Król wezwał także do wprowadzenia zabezpieczeń, zanim będzie za późno na kontrolowanie rozwoju technologii, i poruszył kwestię wpływu rozwoju sztucznej inteligencji na środowisko, a jest to temat cieszący się coraz większą uwagą, ponieważ budowa centrów danych obciąża sieci energetyczne w wielu krajach.
Kto uczestniczył w szkockim szczycie
Na liście gości przedstawiono przekrój najpotężniejszych postaci w branży sztucznej inteligencji. Według ABC News, wśród uczestników byli założyciel i dyrektor naczelny Nvidii Jensen Huang, założyciel Google DeepMind Demis Hassabis oraz dyrektor finansowa OpenAI Sarah Friar. Obecna była także brytyjska minister sztucznej inteligencji Kanishka Narayan.
Jak wynika ze zdjęć i podpisów rozpowszechnianych przez Reuters, Huang został zaproszony na spotkanie z królem w celu omówienia branżowych mechanizmów bezpieczeństwa. W dyskusjach miał także wziąć udział ojciec Paolo Benanti, doradca papieski, który wzywał rządy do spowolnienia rozwoju sztucznej inteligencji.
Wybór miejsca i organizatora ma znaczenie. Monarchia brytyjska nie ma uprawnień regulacyjnych, ale król ma długą historię zaangażowania publicznego w kwestię pojawiających się zagrożeń technologicznych, a podczas szczytu najwyżsi rangą osobistości z branży zasiedli do wspólnego stołu w momencie, gdy po obu stronach Atlantyku nasilają się wezwania do nadzoru.
Ożywienie debaty
Spotkanie odbywa się w ramach wznowienia debaty publicznej na temat ryzyka związanego ze sztuczną inteligencją. Dyskusja ponownie znalazła się w centrum uwagi po tym, jak dwóch badaczy z firmy Anthropic ostrzegło, że szybko rozwijająca się technologia może doprowadzić do wyginięcia ludzkości w niezbyt odległej przyszłości, co spotkało się z szerokim zainteresowaniem i krytyką w równym stopniu.
Dyrektor naczelny Anthropic, Dario Amodei, osobno wezwał firmy do spowolnienia tempa rozwoju sztucznej inteligencji. Papież Leon XIV nawoływał rządy na całym świecie do spowolnienia rozwoju systemów sztucznej inteligencji i złagodzenia ich destrukcyjnych skutków, podczas gdy prezydent USA Donald Trump również interweniował w debacie, czyniąc kwestię zarządzania sztuczną inteligencją prawdziwie globalną kwestią polityczną, a nie czysto techniczną.
W tym kontekście rosną obawy, że wysiłki w zakresie bezpieczeństwa sztucznej inteligencji nie nadążają za rozwojem coraz wydajniejszych systemów. W ostatnich tygodniach debata koncentrowała się na tym, czy branża może i powinna sama regulować się, a sceptycy kwestionują, czy kadra kierownicza wzywająca do ostrożności może mieć ukryte motywy, takie jak kształtowanie zasad zapewniających przewagę konkurencyjną poszczególnych firm.
Nie oczekuje się żadnych wiążących zasad
Organizatorzy nigdy nie postrzegali szkockiego spotkania jako negocjacji. Według ABC News nie oczekuje się, że spotkanie doprowadzi do jakichkolwiek wiążących ustaleń. Jego cel, przynajmniej nominalnie, ma charakter eksploracyjny: czy wspólny zestaw zasad może wyznaczać kierunki stosowania sztucznej inteligencji ponad granicami i branżami.
Pałac Buckingham powiedział, że w dyskusjach rozważy się, czy sztuczną inteligencją można kierować się „nie tylko jako czynnik napędzający możliwości i efektywność, ale jako narzędzie podtrzymujące godność ludzką i przyczyniające się do rozkwitu zarówno ludzi, jak i planety”.
To sformułowanie odzwierciedla temat, do którego król wielokrotnie wracał: pytanie nie dotyczy tylko tego, czy sztuczną inteligencję można zapewnić bezpieczeństwo, ale także tego, do czego powinna ona służyć. Czwartkowe uwagi zaostrzyły tę kwestię, przekształcając ją w ostrzeżenie dotyczące własności i kontroli, co stanowi wyraźnie odmienny nacisk od obaw skoncentrowanych na możliwościach, które dominują w większości dyskusji na temat ryzyka związanego ze sztuczną inteligencją.
Co stanie się dalej
Jest mało prawdopodobne, aby szczyt sam w sobie stworzył politykę, ale nadaje impet szeregowi już trwających oficjalnych wysiłków. Od czasu swoich wcześniejszych szczytów dotyczących sztucznej inteligencji Wielka Brytania stała się organizatorem konferencji poświęconej bezpieczeństwu sztucznej inteligencji, a obecność wyznaczonego ministra ds. sztucznej inteligencji sygnalizuje, że rząd zamierza nadal współpracować z twórcami sztucznej inteligencji zarówno z USA, jak i Chin.
Dla firm obecnych na sali rachunek różniczkowy jest delikatny. Nvidia, DeepMind i OpenAI stoją pod presją komercyjną, aby dostarczać coraz wydajniejsze systemy, mimo że ich badacze publikują ostrzeżenia dotyczące tego, co ostatecznie te systemy mogą zrobić. Królewskie wezwanie nie rozwiązuje tego napięcia, ale sprawia, że napięcie pozostaje widoczne.
Główne przesłanie króla, że zabezpieczenia muszą zostać wprowadzone, zanim technologia wymknie się komukolwiek spod kontroli, pojawi się w ciągu tygodnia, w którym dyskurs na temat bezpieczeństwa w branży będzie niezwykle głośny, począwszy od ujawnienia przez OpenAI licznych incydentów związanych z bezpieczeństwem z udziałem jej własnych modeli, po narastający spór publiczny między kierownictwem AI firmy Microsoft a firmą Anthropic na temat tego, jak należy projektować systemy AI.
Czas pokaże, czy czwartkowe spotkanie przełoży się na coś bardziej konkretnego. Jednak gdy przywódcy najcenniejszego na świecie producenta chipów i najwybitniejszych laboratoriów sztucznej inteligencji siedzący w szkockiej wiejskiej rezydencji zgodzili się co najmniej, że stawka jest egzystencjalna, rozmowa na temat tego, kto kontroluje sztuczną inteligencję i na czyją korzyść, zdecydowanie wyszła na jaw.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
