Pionier sztucznej inteligencji, Jeffrey Hinton, opuścił Google, ostrzegając przed niebezpieczeństwami związanymi z tą technologią

Wiodący badacz sztucznej inteligencji Jeffrey Hinton zrezygnował ze stanowiska w Google, aby swobodnie mówić o zagrożeniach, jakie stwarza sztuczna inteligencja, mówiąc, że część niego żałuje pracy swojego życia.

Pan Hinton powiedział New York Times, że w zeszłym miesiącu powiedział Google, że odchodzi z firmy, w której pełnił funkcję wiceprezesa i inżyniera. Wśród jego obaw jest to, że generatywne systemy sztucznej inteligencji mogą zalać Internet fałszywymi obrazami, filmami i tekstami, osłabiając zdolność ludzi do odróżniania faktów od fikcji. Pan Hinton powiedział gazecie, że jest również zaniepokojony utratą pracy i długoterminową możliwością wyprzedzenia ludzi przez sztuczną inteligencję.

„Pomysł, że te rzeczy mogą faktycznie stać się mądrzejsze od ludzi – niewielu ludzi w to wierzyło” – powiedział The Times. Ale większość ludzi uważała, że ​​to zbyt daleko idące. A wydawało mi się to nieosiągalne. … Oczywiście już tak nie myślę.

Nie odpowiedział na prośbę o wywiad z The Globe and Mail.

Pan Hinton jest najnowszym badaczem AI, który publicznie mówi o zagrożeniach związanych z tą technologią. Ale jako jedna z najbardziej wpływowych postaci w tej dziedzinie, zarówno w Kanadzie, jak i za granicą, jego głos ma wielką wagę. Pan Hinton, lat 75, emerytowany profesor informatyki na Uniwersytecie w Toronto i główny doradca naukowy w Vector Institute w Toronto, jest prawdopodobnie najbardziej znany ze swojej pracy nad sztucznymi sieciami neuronowymi, które uczą się wykonywać zadania, analizując duże ilości danych .

Jeden z jego przełomowych odkryć miał miejsce w 2012 r., kiedy zbudował sieć neuronową, która mogła nauczyć się identyfikować wspólne obiekty na obrazach z dużą dokładnością, pomagając utorować drogę dla generatywnej sztucznej inteligencji, która istnieje dzisiaj. Google wkrótce Dostał swoją firmę, DNNresearch. Wielu jego uczniów zostało liderami w branży, w tym Ilya Sutskiver, współzałożyciel OpenAI.

Czy sztuczna inteligencja zdominuje świat? I inne pytania, które Kanadyjczycy zadają Google na temat technologii

Podczas gdy tekst i obrazy generowane przez sztuczną inteligencję były opracowywane od lat, OpenAI rozpoczęło wyścig zbrojeń między gigantami technologicznymi, wydając w listopadzie ChatGPT. Program jest w stanie płynnie pisać prozę i kod komputerowy, prowadzić rozmowy i odpowiadać na pytania (choć nie zawsze dokładnie). Microsoft dużo zainwestował w OpenAI i uruchomił wersję swojej wyszukiwarki Bing opartą na sztucznej inteligencji.

Nie chcąc zostać w tyle i martwiąc się o swoją działalność związaną z wyszukiwaniem, Alphabet, firma macierzysta Google, uruchomiła własnego chatbota.

Panie Hinton na Twitterze że odszedł z firmy nie po to, by konkretnie skrytykować swojego byłego pracodawcę, ale by szeroko wypowiedzieć się na temat zagrożeń związanych ze sztuczną inteligencją. „Google działało bardzo odpowiedzialnie” – napisał.

Obawy związane ze sztuczną inteligencją ewoluowały niemal tak szybko, jak technologia. W marcu wielu dyrektorów technologicznych i badaczy, w tym Yoshua Bengio z Montrealu, podpisało list otwarty wzywający do sześciomiesięcznej przerwy w rozwoju niektórych systemów sztucznej inteligencji, powołując się na „głębokie zagrożenia dla społeczeństwa i ludzkości”.

Pan Hinton nie podpisał listu. („Nie, dziękuję”, powiedział The Globe, gdy poproszono go o komentarz).

Niektórzy krytycy listu argumentowali, że ryzyko, do którego się odnosi, jest przesadzone i hipotetyczne.

W kwietniu grupa dyrektorów generalnych startupów i badaczy z AI Canada opublikowała kolejny list otwarty wzywający rząd federalny do szybkiego uchwalenia przepisów regulujących sztuczną inteligencję. Pan Hinton był jednym z sygnatariuszy wstępnego projektu, ale wycofał swoje nazwisko przed opublikowaniem ostatecznej wersji listu.

Pan Hinton jest także wczesnym sponsorem finansowym Cohere z siedzibą w Toronto, firmy zajmującej się sztuczną inteligencją, która rozwija technologię przetwarzania języka i konkuruje z OpenAI. Współzałożyciel Nicholas Frost był pierwszym pracownikiem firmy Hintona w Laboratorium Badawczym Sztucznej Inteligencji Google w Toronto.

„Tak podekscytowany Geoff Unchained” — powiedział pan Frost na Twitterze w poniedziałek.