Juwal Noach Harari o przyszłości AI

Harari o sztucznej inteligencji w New York Times.
Podsumowanie cytatów poniżej👇

„W 2022 r. ponad 700 czołowych naukowców i badaczy stojących za wiodącymi firmami zajmującymi się sztuczną inteligencją zostało zapytanych w ankiecie o przyszłe ryzyko związane z AI. Połowa ankietowanych stwierdziła że istnieje 10 procent lub więcej szans na wyginięcie człowieka ze strony przyszłych systemów AI.

Moje pytanie: A czy prawdopodobieństwo na wyginięcie człowieka nie jest znacznie wyższe, bez posiadania zaawansowanych technologii w tym AGI (artificial general intelligence)?”
Juwal Noach Harari dla New York Times

„Systemy sztucznej inteligencji o mocy GPT-4 i większej, nie powinny być uwikłane w życie miliardów ludzi w tempie szybszym niż kultury mogą je bezpiecznie wchłonąć” – porównuje to z firmami farmaceutycznymi, które muszą spełniać rygorystyczne kontrole bezpieczeństwa.

Trudno jest naszym umysłom pojąć wykładniczą prędkość, z jaką te narzędzia rozwijają jeszcze bardziej zaawansowane możliwości. Większość kluczowych umiejętności sprowadza się do zdolności do manipulowania i generowania języka, czy to za pomocą słów, dźwięków czy obrazów.”
Juwal Noach Harari dla New York Times

„Na początku było słowo. Język jest systemem operacyjnym ludzkiej kultury. Z języka wyłania się mit i prawo, sztuka i nauka, nawet kod komputerowy. Opanowanie języka przez AI oznacza, że może ona teraz włamać się i manipulować systemem operacyjnym cywilizacji.”
Juwal Noach Harari dla New York Times

„AI może pochłonąć całą ludzką kulturę – wszystko, co wytworzyliśmy przez tysiące lat – strawić to i zacząć tryskać strumieniem nowych kulturowych artefaktów. W 2028 roku wyścig prezydencki w USA może już nie być prowadzony przez ludzi”
Juwal Noach Harari dla New York Times

„Jesteśmy zamknięci w kulturze. Nasze poglądy polityczne kształtowane są przez doniesienia dziennikarzy i anegdoty przyjaciół. Jak będzie wyglądało doświadczanie rzeczywistości przez pryzmat wytworzony przez nie-ludzką inteligencję?

„Widmo uwięzienia w świecie iluzji prześladuje ludzkość znacznie dłużej niż widmo AI. Wkrótce staniemy w końcu twarzą w twarz z demonem Kartezjusza, z jaskinią Platona. Kurtyna iluzji może opaść na całą ludzkość i być może już nigdy nie będziemy w stanie jej oderwać”
Juwal Noach Harari dla New York Times

„AI stojąca za naszymi kanałami informacyjnymi wciąż wybiera, które słowa, dźwięki i obrazy docierają do naszych siatkówek i bębenków, opierając się na wyborze tych, które uzyskają największą viralowość, największą reakcję i największe zaangażowanie.”

„AI stojąca za social mediami stworzyła kurtynę iluzji, która zwiększyła społeczną polaryzację, podkopała nasze zdrowie psychiczne i rozwaliła demokrację. USA mają najlepszą technologię, a mimo to obywatele USA nie mogą się już zgodzić co do tego, kto wygrał wybory”
Juwal Noach Harari dla New York Times

„AI rzeczywiście ma potencjał, aby pomóc nam pokonać raka, odkryć leki ratujące życie i wymyślić rozwiązania dla naszego kryzysu klimatycznego. Ale nie ma znaczenia, jak wysoki wieżowiec korzyści AI zbuduje, jeśli zawali się jego fundament”
Juwal Noach Harari dla New York Times

„Jeśli nie będziemy rozwijać AI tak szybko jak to możliwe, czy Zachód nie ryzykuje przegranej z Chinami? Nie. Wdrożenie niekontrolowanej AI w społeczeństwie, może być właśnie powodem, dla którego Zachód przegra z Chinami.”
Juwal Noach Harari dla New York Times

„Przywołaliśmy obcą inteligencję. Nie wiemy o niej wiele, poza tym, że jest niezwykle potężna, oferuje nam prezenty, ale może też zhakować podstawy naszej cywilizacji. Wzywamy światowych przywódców, aby zareagowali na ten moment na miarę wyzwania, jakie stanowi”

„Pierwszym krokiem jest kupienie sobie czasu na dostosowanie naszych 19-wiecznych instytucji do świata post-AI oraz nauczenie się panowania nad AI, zanim ona opanuje nas.”
Juwal Noach Harari dla New York Times