„ChatGPT nie zrobił na mnie takiego wrażenia jak GPT-2 z 2019 roku oraz model Google, który był w stanie zrozumieć, że mój żart był zabawny.
–
Przed rewolucją w dziedzinie sztucznej inteligencji istniały dwa główne nurty myślenia. Pierwszy opierał się na rozumowaniu i logice, a drugi na sieciach neuronowych, które badały, jak działa mózg. Pierwotnie druga szkoła była pozbawiona nadziei, ale okazała się trafna.”
Geoffrey Hinton dla CBS
![](https://trajektoria.ai/zasoby/uploads/2023/06/hinton-cbs1-1.png)
„W latach 80 sztuczne sieci neuronowe nie były skuteczne z powodu wolnych komputerów i małych zbiorów danych.
–
O sieciach neuronowych: „Choć nieco nielogiczne, to skuteczne[…] Przekonałem się o tym na podstawie badań nad funkcjonowaniem ludzkiego mózgu”.
–
ChatGPT posiada większą ilość informacji niż jakakolwiek osoba, ale nie jest wybitny w kwestii logicznego myślenia – ludzie są w tym lepsi, ponieważ czerpią wiedzę z mniejszej ilości danych.
–
W okolicach roku 2006 rozpoczęliśmy pracę nad sztuczną inteligencją opartą na uczeniu głębokim. Opracowaliśmy metodę uczenia wstępnego, co doprowadziło do stworzenia modelu GPT. Nazwa ChatGpt odnosi się do Generative Pre-trained Transformer.
–
Aktualnie sztuczna inteligencja nie przewyższa radiologów, ale w przyszłości może to nastąpić. Uważam, że w przyszłości systemy oparte na AI będą mniej wymagające energetycznie. Na przykład, możliwe będzie, że urządzenia takie jak toster będą mogły komunikować się z użytkownikiem (jak w przypadku ChatGPT). Jednak, aby takie urządzenie było tanie, musi zużywać mniejszą ilość energii.
–
ChatGPT, mimo treningu na różnorodnych danych, nie jest w stanie określić, co jest prawdą, ponieważ ludzie mają różne poglądy. W związku z tym, jego przewidywania opierają się na mieszance tychże poglądów i brak jest spójnego punktu widzenia.
–
Wygląda na to, że przyszłość należy do systemów, które są w stanie przejąć różne perspektywy. Jednakże, będzie to wyzwanie dla rozwoju wiedzy, gdyż nie wiemy jeszcze, w jaki sposób mierzyć się z kwestią prawdy. Nawet firma Microsoft nie ma na to rozwiązania.
–
Nawet najwięksi eksperci mają wiele niewiadomych. Musimy szybko znaleźć odpowiedzi, aby sprostać różnym wyzwaniom. Podejrzewam, że kluczową umiejętnością będzie rozumienie odmiennych punktów widzenia przez modele.
–
Do tej pory zakładałem, że osiągnięcie AGI zajmie nam między 20 a 50 lat. Jednak teraz wydaje się, że może to nastąpić już w ciągu 20 lat lub krócej. Nawet 5 lat nie jest wykluczone.
–
Dostrzegam zagrożenia, w szczególności w systemach politycznych. Nie mam pewności, czy Putin wykorzysta sztuczną inteligencję w sposób korzystny dla społeczeństwa. Podobnie niepokojące jest zastosowanie autonomicznej broni.
–
Jak wysoka jest możliwość, że sztuczna inteligencja zniszczy ludzkość? „Jest to możliwe w pewnym stopniu, jednakże nieprzewidywalne”. Aby temu zapobiec, musimy postępować rozważnie, choć dla niektórych polityków jest to niemożliwe.
–
Google dba o ostrożność w zakresie AI, ponieważ posiada doskonałą wyszukiwarkę, która nie może być narażona na ryzyko. Microsoft wydaje się nieco bardziej elastyczny, gdyż zniknięcie Binga nie wpłynęłoby na firmę. Google jest liderem w dziedzinie badań nad sztuczną inteligencją. Na przykład, wynalazli oni model Transformers.
–
Rząd amerykański stara się zastąpić żołnierzy autonomicznymi robotam. Planują wprowadzenie różnych niepokojących rozwiązań, takich jak pole minowe z samonaprawiającymi się minami.
–
Źródło: https://www.cs.toronto.edu/~hinton/minefield.pdf
–
Wojskowe systemy będą tworzyć roboty bojowe, których celem może być człowiek. Konieczna jest stworzenie Konwencji Genewskiej dotyczącej sztucznej inteligencji, jednakże będzie to bardzo trudne. Więcej informacji o planach armii USA można znaleźć w książce „Mimowolne cyborgi”.”
Geoffrey Hinton dla CBS
![](https://trajektoria.ai/zasoby/uploads/2023/06/hinton-cbs2.png)
„Czy komputery są zdolne do tworzenia innowacji samodzielnie?
„Tak, jest to możliwe […] Jednakże, musimy to dobrze przemyśleć, aby zachować kontrolę”.
To niepokojące.
„Tak, zgadzam się”.–
Czy rewolucja zlikwiduje wszystkie zawody?
–
Nasza praca będzie opierać się na większej kreatywności i innowacyjnym podejściu.
–
Potrzebujemy albo 10% obecnej liczby programistów albo takiej samej liczby programistów, którzy będą w stanie wykonać dziesięć razy więcej.
–
Uważam, że obecna rewolucja sztucznej inteligencji jest porównywalna pod względem skali z rewolucją przemysłową, a może nawet z wynalezieniem koła.
–
Dotyczą one tego, że słowo „świadomość” jest bardzo trudne do zdefiniowania i opisu, co utrudnia badania naukowe i filozoficzne w tym obszarze. Jednym z głównych problemów jest to, że pojęcie to dotyczy zarówno subiektywnych doświadczeń, jak i obiektywnych stanów mózgu, co utrudnia jednoznaczne zdefiniowanie pojęcia.
–
Dziwi mnie, że ludzie twierdzą z przekonaniem, iż te systemy nie są świadome. Gdy pyta się ich, co rozumieją przez pojęcie „świadomość”, odpowiadają, że nie mają pojęcia.
–
Czy są świadome? „To zależy od kontekstu naszego stwierdzenia”.
–
Nie znam odpowiedzi na to pytanie.
–
Systemy te posiadają unikalną inteligencję, różniącą się od naszej, co implikuje, że ich świadomość będzie również odmienna od naszych wyobrażeń na ten temat.
–
Gdy autonomiczna broń zacznie Cię ścigać, zdać sobie możesz sprawę z jej świadomości.”
Geoffrey Hinton dla CBS