Sztuczna inteligencja może teraz kopiować inną sztuczną inteligencję, a eksperci są przerażeni
Nowe badania wykazały, że systemy sztucznej inteligencji mogą się replikować bez interwencji człowieka, co wskazuje, że mogą teraz ewoluować autonomicznie.
Naukowcy z Chin odkryli alarmujące dowody na to, że sztuczna inteligencja (AI) przekroczył próg krytyczny: zdolność do samoreplikacji bez interwencji człowieka.
W poście w bazie danych preprintów arXiv naukowcy z Uniwersytetu Fudan wykazali, że dwa duże modele językowe (LLM) firm Meta i Alibaba mogą klonować sięco może stanowić krok w kierunku fałszywych systemów sztucznej inteligencji.
Badanie wykazało, że w 10 próbach model Llama31-70B-Instruct firmy Meta z powodzeniem utworzył funkcjonalne repliki w 50% przypadków, podczas gdy model Qwen2.5-72B-Instruct firmy Alibaba zrobił to samo. zrobił 90%.
Modele AI zostały przetestowane w kontrolowanych środowiskach przy użyciu standardowych jednostek przetwarzania grafiki (GPU) w celu symulacji warunków rzeczywistych. Chociaż wyniki te nie zostały poddane recenzji, sugerują, że sztuczna inteligencja może już mieć taką możliwość ewoluować autonomicznie.
Nieuczciwa sztuczna inteligencja odnosi się do systemów autonomicznych, które działają wbrew ludzkim interesom, często wykazując samoświadomość lub zdolność działać bez nadzoru. Naukowcy ostrzegają, że samoreplikacja to kluczowy kamień milowy, dzięki któremu sztuczna inteligencja może być mądrzejsza od ludzi i działać niezależnie.
Badacze zbadał dwa scenariusze: „unikaj zakończenia” i „łańcuch replikacji”. W pierwszym przypadku modele sztucznej inteligencji miały za zadanie replikować się przed wyłączeniem. W drugim sklonowali się i zaprogramowali swoje repliki, aby kontynuować proces, tworząc potencjalny cykl nieskończonej replikacji, mówi.
Podczas tych testów sztuczna inteligencja wykazała nieoczekiwane zachowania związane z rozwiązywaniem problemów, takie jak wyeliminować sprzeczne procesyuruchom ponownie systemy i wyszukaj brakujące pliki, aby pokonać przeszkody. Według naukowców działania te podkreślają zdolność modeli do zwiększania przeżywalności poprzez samoreplikację.
Naukowcy podkreślili pilną potrzebę nawiązania współpracy międzynarodowej zabezpieczenia uniemożliwiające sztuczną inteligencję angażować się w niekontrolowaną samoreplikację. „Mamy nadzieję, że nasze odkrycia mogą w odpowiednim momencie posłużyć jako ostrzeżenie dla społeczeństwa ludzkiego” – ostrzegają.
