„ChatGPT nie zrobił na mnie takiego wrażenia jak GPT-2 z 2019 roku oraz model Google, który był w stanie zrozumieć, że mój żart był zabawny.
–
Przed rewolucją w dziedzinie sztucznej inteligencji istniały dwa główne nurty myślenia. Pierwszy opierał się na rozumowaniu i logice, a drugi na sieciach neuronowych, które badały, jak działa mózg. Pierwotnie druga szkoła była pozbawiona nadziei, ale okazała się trafna.”
Geoffrey Hinton dla CBS
„W latach 80 sztuczne sieci neuronowe nie były skuteczne z powodu wolnych komputerów i małych zbiorów danych.
–
O sieciach neuronowych: „Choć nieco nielogiczne, to skuteczne[…] Przekonałem się o tym na podstawie badań nad funkcjonowaniem ludzkiego mózgu”.
–
ChatGPT posiada większą ilość informacji niż jakakolwiek osoba, ale nie jest wybitny w kwestii logicznego myślenia – ludzie są w tym lepsi, ponieważ czerpią wiedzę z mniejszej ilości danych.
–
W okolicach roku 2006 rozpoczęliśmy pracę nad sztuczną inteligencją opartą na uczeniu głębokim. Opracowaliśmy metodę uczenia wstępnego, co doprowadziło do stworzenia modelu GPT. Nazwa ChatGpt odnosi się do Generative Pre-trained Transformer.
–
Aktualnie sztuczna inteligencja nie przewyższa radiologów, ale w przyszłości może to nastąpić. Uważam, że w przyszłości systemy oparte na AI będą mniej wymagające energetycznie. Na przykład, możliwe będzie, że urządzenia takie jak toster będą mogły komunikować się z użytkownikiem (jak w przypadku ChatGPT). Jednak, aby takie urządzenie było tanie, musi zużywać mniejszą ilość energii.
–
ChatGPT, mimo treningu na różnorodnych danych, nie jest w stanie określić, co jest prawdą, ponieważ ludzie mają różne poglądy. W związku z tym, jego przewidywania opierają się na mieszance tychże poglądów i brak jest spójnego punktu widzenia.
–
Wygląda na to, że przyszłość należy do systemów, które są w stanie przejąć różne perspektywy. Jednakże, będzie to wyzwanie dla rozwoju wiedzy, gdyż nie wiemy jeszcze, w jaki sposób mierzyć się z kwestią prawdy. Nawet firma Microsoft nie ma na to rozwiązania.
–
Nawet najwięksi eksperci mają wiele niewiadomych. Musimy szybko znaleźć odpowiedzi, aby sprostać różnym wyzwaniom. Podejrzewam, że kluczową umiejętnością będzie rozumienie odmiennych punktów widzenia przez modele.
–
Do tej pory zakładałem, że osiągnięcie AGI zajmie nam między 20 a 50 lat. Jednak teraz wydaje się, że może to nastąpić już w ciągu 20 lat lub krócej. Nawet 5 lat nie jest wykluczone.
–
Dostrzegam zagrożenia, w szczególności w systemach politycznych. Nie mam pewności, czy Putin wykorzysta sztuczną inteligencję w sposób korzystny dla społeczeństwa. Podobnie niepokojące jest zastosowanie autonomicznej broni.
–
Jak wysoka jest możliwość, że sztuczna inteligencja zniszczy ludzkość? „Jest to możliwe w pewnym stopniu, jednakże nieprzewidywalne”. Aby temu zapobiec, musimy postępować rozważnie, choć dla niektórych polityków jest to niemożliwe.
–
Google dba o ostrożność w zakresie AI, ponieważ posiada doskonałą wyszukiwarkę, która nie może być narażona na ryzyko. Microsoft wydaje się nieco bardziej elastyczny, gdyż zniknięcie Binga nie wpłynęłoby na firmę. Google jest liderem w dziedzinie badań nad sztuczną inteligencją. Na przykład, wynalazli oni model Transformers.
–
Rząd amerykański stara się zastąpić żołnierzy autonomicznymi robotam. Planują wprowadzenie różnych niepokojących rozwiązań, takich jak pole minowe z samonaprawiającymi się minami.
–
Źródło: https://www.cs.toronto.edu/~hinton/minefield.pdf
–
Wojskowe systemy będą tworzyć roboty bojowe, których celem może być człowiek. Konieczna jest stworzenie Konwencji Genewskiej dotyczącej sztucznej inteligencji, jednakże będzie to bardzo trudne. Więcej informacji o planach armii USA można znaleźć w książce „Mimowolne cyborgi”.”
Geoffrey Hinton dla CBS
„Czy komputery są zdolne do tworzenia innowacji samodzielnie?
„Tak, jest to możliwe […] Jednakże, musimy to dobrze przemyśleć, aby zachować kontrolę”.
To niepokojące.
„Tak, zgadzam się”.–
Czy rewolucja zlikwiduje wszystkie zawody?
–
Nasza praca będzie opierać się na większej kreatywności i innowacyjnym podejściu.
–
Potrzebujemy albo 10% obecnej liczby programistów albo takiej samej liczby programistów, którzy będą w stanie wykonać dziesięć razy więcej.
–
Uważam, że obecna rewolucja sztucznej inteligencji jest porównywalna pod względem skali z rewolucją przemysłową, a może nawet z wynalezieniem koła.
–
Dotyczą one tego, że słowo „świadomość” jest bardzo trudne do zdefiniowania i opisu, co utrudnia badania naukowe i filozoficzne w tym obszarze. Jednym z głównych problemów jest to, że pojęcie to dotyczy zarówno subiektywnych doświadczeń, jak i obiektywnych stanów mózgu, co utrudnia jednoznaczne zdefiniowanie pojęcia.
–
Dziwi mnie, że ludzie twierdzą z przekonaniem, iż te systemy nie są świadome. Gdy pyta się ich, co rozumieją przez pojęcie „świadomość”, odpowiadają, że nie mają pojęcia.
–
Czy są świadome? „To zależy od kontekstu naszego stwierdzenia”.
–
Nie znam odpowiedzi na to pytanie.
–
Systemy te posiadają unikalną inteligencję, różniącą się od naszej, co implikuje, że ich świadomość będzie również odmienna od naszych wyobrażeń na ten temat.
–
Gdy autonomiczna broń zacznie Cię ścigać, zdać sobie możesz sprawę z jej świadomości.”
Geoffrey Hinton dla CBS
