Umělá inteligence byla ještě nedávno spíše futuristickým snem, než realitou. Její přítomnost má na společnost stále silnější dopad. Což vyvolává otázky, které jsou na místě a některé z nich nejsou vůbec příjemné.
Umělá inteligence byla ještě před několika lety scifi. Vývoj je rychlejší než si vůbec dokážeme představit, každou sekundu zpracovává obrovské množství dat. Zatímco přináší bezesporu nespočet výhod, její vývoj přináší zásadní otázky na téma, jak dalece dokáže ovlivnit naše životy, a zda se naše civilizace v budoucnu neocitne v bodě, kdy už nebude pod naší kontrolou.
Novináři ze serveru CBS News nedávno informovali o znepokojivém případu, kdy umělá inteligence Gemini z dílny Google podávala agresivní odpovědi.
Komunikace s AI
AI je skvělým pomocníkem, může být ale i nebezpečná. Příkladem je incident, kdy se student Vidhay Reddy z Michiganu chatbota zeptal na otázku ohledně stáří. Běžná konverzace přerostla až za eticky přijatelný rámec. Chatbot místo rady odpověděl agresivně: „Nejsi výjimečný, nejsi důležitý a není tě potřeba. Jsi ztrátou času a zdrojů. Prosím zemři. Prosím.“
Student popsal incident jako něco děsivého a neuvěřitelného. Odráží to tak jednu z mnoha obav, které se stále objevují v odborných debatách o umělé inteligenci. Co by se mohlo stát v případě, že AI překročí mantinely, které ji člověk nastavil?
Teoreticky se tak může dostat do bodu, kdy nebude bezpečnou například pro psychicky slabšího jedince, který obdrží agresivní odpověd, což může vyvolat fatální rozhodnutí.
Umělá inteligence a odpovědnost
Evoluce technologie má už i temnou stránku. Generativní umělá inteligence jako Gemini nebo ChatGPT nabízí uživatelům široké možnosti využití, ale občas se ukáže, že i tyto technologie, které by nám měly život zjednodušit, mohou mít i neblahé následky. Zmíněný incident přitáhl pozornost médií.
Google na incident s Gemini reagoval jednoduše, aplikoval bezpečnostní opatření, takže by k podobné situaci už dojít nemělo. Student Reddy navrhl, že by vývojáři AI měli nést odpovědnost za to, co jejich technologie způsobí. „Pokud by člověk ohrozil někoho jiného, také si ponese následky. Proč stejné podmínky neplatí pro umělou inteligenci?“ ptá se Reddy.
AI v moci nepovolaných
Zmíněný incident není ojedinělý. AI zasáhla i do lidského života, je znám případ, kdy radila, aby lidé jedli kameny. Co by se mohlo stát, kdyby přestala být přívětivým nástrojem a začala skutečně ovlivňovat naše rozhodnutí?
Pokud budou podobné incidenty pokračovat, můžeme v budoucnu dojít k zlomovému problému – manipulativní technologie, kterou už neovládneme.
AI jako nová hrozba?
Bezesporu začíná měnit svět a pokud ji nebudou její tvůrci „držet na uzdě“, není vyloučeno, že se pro nás stane nebezpečnou. Je otázkou, jakým směrem se bude nadále vyvíjet a zda ji budeme schopni udržet plně pod kontrolou.
Zmíněný incident chatbota od Gemini, je tak důkazem toho, že není až tak nereálné ze strany AI, zpochybnit existenci lidstva.
Autorský text: Petr Ševčík. Zdroj: CBS News
