Geoffrey Hinton, jeden z nejvýznamnějších průkopníků AI a držitel Nobelovy ceny, varuje, že lidé zatím plně nechápou, jak velké hrozby mohou nové technologie představovat. Svůj odchod z Googlu vysvětluje potřebou mluvit otevřeně o rizicích, která podle něj mohou ohrozit lidstvo.
Geoffrey Hinton, často označovaný za jednoho z „kmotrů umělé inteligence“, se významně podílel na rozvoji AI a v loňském roce za své zásluhy obdržel Nobelovu cenu za fyziku. Je proto obzvlášť zajímavé naslouchat jeho názorům na současný pokrok, přínosy i možná rizika AI.
Z jeho dosavadních vyjádření lze usuzovat, že vystupuje jako opatrný realista, snad dokonce mírný pesimista – dobře si uvědomuje obrovskou sílu umělé inteligence i hrozby, které by mohla přinést, pokud by se její vývoj vydal nesprávným směrem. „Umělá inteligence by mohla spustit katastrofickou událost, která by vyhladila lidstvo,“ řekl Geoffrey Hinton.
V nedávném rozhovoru přirovnal Geoffrey Hinton umělou inteligenci k „roztomilému tygříkovi“. „Ať už je vám to zvíře jakkoli vzácné a roztomilé, musíte si být naprosto jisti, že vás, až vyroste, nebude chtít zabít. A protože jde o tygra, nikdo si tím nemůže být stoprocentně jistý,“ upozornil.
Podle Hintona stejná nejistota platí i pro umělou inteligenci – nikdo totiž nemůže s jistotou tvrdit, že se tato technologie v budoucnu neobrátí proti lidem. „Lidé na to ještě nepřišli, lidé nechápou, co se chystá,“ varoval.
Strach z využití AI pro vojenské účely
Mimochodem, Geoffrey Hinton dříve působil ve společnosti Google, odkud v roce 2023 odešel. Důvod jeho odchodu je přitom mimořádně zajímavý – rozhodl tak proto, aby mohl otevřeně hovořit o možných rizicích spojených s umělou inteligencí, aniž by se musel obávat, že jeho varování poškodí jeho tehdejšího zaměstnavatele.
Jednou z Hintonových hlavních obav je možnost, že umělá inteligence by mohla být zneužita k událostem spojeným s hromadným ničením, zejména v oblasti vojenských technologií. Dokonce přiznal, že je rád, že je mu už 77 let – naznačil tím, že negativní důsledky rozmachu umělé inteligence pravděpodobně osobně nepocítí.
Za zvlášť velké zklamání považuje Hinton postoj Googlu, který podle něj na začátku letošního roku změnil svou původní strategii a otevřel se využití umělé inteligence pro vojenské účely – ačkoli dříve Google opakovaně prohlašoval, že něco takového nikdy nepodpoří.
Podle Hintona spočívá zásadní problém v tom, že technologické firmy, hnané snahou o co nejvyšší konkurenceschopnost a obavy ze zaostávání na tomto vysoce lukrativním trhu, mohou začít upozaďovat otázky bezpečnosti. Když se zisk dostane před bezpečnost, otevírá se tím prostor pro řadu potenciálně nebezpečných scénářů – včetně možnosti, že by umělá inteligence mohla jednou převzít kontrolu nad lidmi. Hinton odhaduje pravděpodobnost takového vývoje na 10 až 20 procent.
Stačí se jen podívat, jak vypadala situace s umělou inteligencí před pěti lety a jak vypadá dnes. „To je děsivé,“ poznamenal.
Hinton se ale i přes svá varování domnívá, že umělá inteligence může lidstvu přinést mnoho pozitivního, zejména v oblasti vzdělávání, medicíny, vědy nebo boje proti klimatickým změnám.
Aby se umělá inteligence ubírala pozitivním směrem a nevymkla se kontrole, považuje Hinton za klíčové klást důraz na bezpečnost i zavedení jasných pravidel a regulací. Právě ty by měly zajistit, aby vývoj a využívání AI probíhaly zodpovědně a nevedly k nežádoucím scénářům.
MOHLO BY VÁS ZAJÍMAT: Roboti by mohli do 10 let vyhladit lidstvo. Nejde
o sci-fi, varují experti na AI
Zdroje: Wikipedia, Business Insider
