AC24.cz Redakce
Počítačový vědec Googlu, označovaný za „kmotra“ umělé inteligence, odešel ze společnosti a prohlásil, že tak učinil proto, aby varoval svět před nebezpečím, které tato technologie představuje v době, kdy se velké technologické firmy zapojují do závodů ve zbrojení umělou inteligencí. (Foto: Flickr)
Geoffrey Hinton v pondělí reagoval na článek v New York Times, který naznačoval, že odešel z Googlu, aby společnost kritizoval, a uvedl, že skutečným důvodem bylo, že chtěl ve skutečnosti svobodně hovořit o nebezpečích AI.
Cade Metz dnes v NYT naznačuje, že jsem odešel ze společnosti Google, abych ji mohl kritizovat. Ve skutečnosti jsem odešel proto, abych mohl mluvit o nebezpečích umělé inteligence bez ohledu na to, jaký to má dopad na společnost Google. Google se zachoval velmi zodpovědně.
Geoffrey Hinton
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.
— Geoffrey Hinton (@geoffreyhinton) May 1, 2023
Z rozhovoru v Timesech:
Stále věřil, že systémy jsou v některých ohledech horší než lidský mozek, ale v jiných podle něj zastínily lidskou inteligenci. „Možná, že to, co se děje v těchto systémech,“ řekl, „je ve skutečnosti mnohem lepší než to, co se děje v mozku.“
Jak společnosti zdokonalují své systémy umělé inteligence, stávají se podle něj stále nebezpečnějšími. „Podívejte se, jak to bylo před pěti lety a jak je to nyní,“ řekl o technologii AI. „Vezměte ten rozdíl a propagujte ho dopředu. To je děsivé.“
Až do loňského roku se podle něj Google choval jako „řádný správce“ této technologie a dával pozor, aby nevypustil něco, co by mohlo způsobit škodu. Ale nyní, když Microsoft rozšířil svůj vyhledávač Bing o chatbota – což je výzva pro hlavní činnost Googlu -, se Google předhání v nasazení stejného druhu technologie. Podle doktora Hintona se tito technologičtí giganti utkali v soutěži, kterou možná nebude možné zastavit.
Hinton dodal, že se obává, že v nejbližší době bude internet rychle zaplaven falešnými videi, fotografiemi a zprávami a brzy už nikdo „nebude schopen poznat, co je pravda“.
Dodal, že v dlouhodobém horizontu se obává, že umělá inteligence nakonec zastíní lidskou inteligenci.
„Myšlenka, že by tato věc mohla být skutečně chytřejší než lidé – pár lidí tomu věřilo,“ řekl a dodal: „Ale většina lidí si myslela, že je to daleko. A já jsem si myslel, že je to hodně mimo. Myslel jsem si, že je to za 30 až 50 let nebo ještě déle. To už si samozřejmě nemyslím.“
Nyní předpovídám 5 až 20 let, ale bez velké důvěry. Žijeme ve velmi nejisté době. Je možné, že se zcela mýlím, pokud jde o to, že nás digitální inteligence předběhne. To nikdo pořádně neví, což je důvod, proč bychom si měli dělat starosti už teď.
Geoffrey Hinton
I now predict 5 to 20 years but without much confidence. We live in very uncertain times. It's possible that I am totally wrong about digital intelligence overtaking us. Nobody really knows which is why we should worry now.
— Geoffrey Hinton (@geoffreyhinton) May 3, 2023
Hinton také řekl BBC, že jedním z hlavních nebezpečí umělé inteligence je, že se ji „špatní aktéři“ pokusí využít ke „špatným věcem“.
Současný generální ředitel společnosti Google Sundar Pichai připustil, že konkurenční ChatGPT společnosti Bard vyvinula „vyvstávací vlastnosti“, což znamená, že se učí věci, které nebyly naprogramovány, a že chování UI „plně nerozumí“.
Minulý měsíc Elon Musk prozradil, že společnost Google již dlouho plánuje vytvoření umělé inteligence Bard a že Musk před tím majitele společnosti opakovaně varoval.
Musk prohlásil, že konečným cílem Googlu je „vytvořit digitální superinteligenci“ nebo to, co popisuje jako „digitálního boha“.
Majitel Twitteru uvedl, že mu spoluzakladatel Googlu Larry Page před lety soukromě řekl, že širší program společnosti směřuje k umělé obecné inteligenci.
Elon Musk říká, že mu spoluzakladatel Googlu Larry Page jednou řekl, že chce vytvořit „digitálního boha“ pomocí umělé inteligence.
Elon Musk says Google co-founder Larry Page once told him that he wants to build a "Digital God" using AI. pic.twitter.com/DMvME0ADfa
— Citizen Free Press (@CitizenFreePres) April 18, 2023
Musk spolu s Larrym Pagem založil společnost OpenAI, která stojí za projektem ChatGPT, ale zjevně se skutečně obává rychlého pokroku v oblasti umělé inteligence a toho, jak by mohl negativně ovlivnit lidstvo.
Musk řekl Tuckerovi Carlsonovi, že je „naprosto“ představitelné, že by umělá inteligence mohla převzít kontrolu a rozhodovat za lidi, což by v konečném důsledku mohlo vést k „civilizačnímu zničení“.
„Nebezpečí, opravdu, AI je možná nebezpečnější než, řekněme, špatně zvládnutá konstrukce letadel nebo údržba výroby nebo špatná výroba automobilů v tom smyslu, že má potenciál, jakkoli chcete tuto pravděpodobnost považovat za malou, ale není triviální,“ varoval Musk.
Zdroj: nytimes.com
Článek Počítačový vědec Googlu odešel, aby mohl varovat svět před umělou inteligencí se nejdříve objevil na AC24.cz.