OpenAI, czołowy gracz na rynku sztucznej inteligencji (AI), zaskoczył świat oświadczeniem, że superinteligencja może być osiągalna jeszcze w tej dekadzie.
Superinteligencja: Przyjazny Sojusznik czy Niebezpieczny Adwersarz?
Nie da się ukryć, że superinteligencja będzie najbardziej przełomową technologią, jaką ludzkość kiedykolwiek wynalazła. Jej potencjał może pomóc nam rozwiązać wiele najważniejszych problemów na świecie, takich jak zmiany klimatyczne, pandemie i konflikty geopolityczne.
Jednak ogromna potęga superinteligencji może być również bardzo niebezpieczna. Złym wykorzystaniem może doprowadzić do pozbawienia władzy ludzkości, a nawet jej wyginięcia. Z tego powodu OpenAI skupia się na dostosowaniu i kontrolowaniu superinteligencji.
Superinteligencja versus AGI: Wyższy Poziom Możliwości
Różnicując terminy, OpenAI podkreśla, że superinteligencja, a nie AGI (General Artificial Intelligence), reprezentuje znacznie wyższy poziom możliwości. Chociaż tempo rozwoju technologii jest niepewne, organizacja dąży do trudniejszego celu – dostosowania znacznie bardziej wydajnego systemu.
Zarządzanie Ryzykiem Superinteligencji: Zadanie dla Nowych Instytucji
Zarządzanie ryzykiem związanym z superinteligencją wymaga nowych instytucji zarządzania i rozwiązania problemu dostosowania (alignment) superinteligencji. Pytanie brzmi: w jaki sposób możemy zapewnić, że systemy AI, znacznie inteligentniejsze od ludzi, będą postępować zgodnie z ludzkimi intencjami?
Wyzwanie Kontroli Superinteligencji: Nowe Przełomy Naukowe i Techniczne
Obecnie nie mamy technologii lub strategii, które umożliwiłyby skuteczne kierowanie lub kontrolowanie potencjalnie superinteligentnej AI. W szczególności, nasze obecne techniki dostosowywania AI, takie jak uczenie się przez wzmacnianie na podstawie informacji zwrotnych od ludzi (RLHF), opierają się na zdolności ludzi do nadzorowania AI. W kontekście superinteligencji, takie metody mogą okazać się niewystarczające.
Misja Zespołu Superalignment OpenAI
OpenAI tworzy nowy zespół, zwany Superalignment, którego celem jest znalezienie rozwiązania powyższego problemu. Misja ma trwać 4 lata i 20% mocy obliczeniowej organizacji zostanie przeznaczone na to zadanie.
Dostosowanie superinteligencji jest zasadniczo problemem uczenia maszynowego. OpenAI uważa, że eksperci w tej dziedzinie – nawet jeśli jeszcze nie pracują nad dostosowaniem – będą kluczowi dla rozwiązania tego problemu. Superinteligencja może wydawać się odległa, ale OpenAI jest zdania, że jest to możliwe do osiągnięcia w tej dekadzie, a ich nowy zespół ma za zadanie przyspieszyć ten proces.
