Umělá inteligence by mohla způsobit smrt miliard lidí, varuje Bill Gates
Až miliardu lidí by mohl mít na svědomí nástup umělé inteligence, varuje spoluzakladatel Microsoftu Bill Gates. Vzhledem k možným rizikům je podle něj proto naprosto nezbytné přijmout příslušnou legislativu. Pro zpomalení vývoje tohoto fenoménu se v poslední době vyslovují také přední vývojáři. Reagují tak mimo jiné na samostatné hackerské útoky, které provedl software s umělou inteligencí.
Bill Gates v září řekl americké stanici NBC, že by umělá inteligence mohla způsobit smrt miliardy lidí. Přimlouvá se proto za právní regulaci této technologie.
„Umělá inteligence je bezpochyby natolik mocná, že by mohla vyvolat události, které by si vyžádaly miliardu obětí,"
vysvětlil 70letý Gates, když dostal otázku, zda by tato technologie mohla vyhladit lidstvo.
Velkou pozornost nedávno vzbudil i výzkumník společnosti Anthropic Jacob Coxon, který se rozhodl opustit jak firmu, tak celý obor AI. Podle Coxona lidé pracující ve vývoji umělé inteligence „upřímně věří, že by nás mohla do konce tohoto desetiletí všechny zabít".
Na vině nejsou technologie. Riziko je v lidech
Největší problém podle Gatese nepředstavuje umělá inteligence, která by se rozhodla jednat na vlastní pěst. Větší pozornost si zaslouží lidé, kteří už dnes mohou výkonné AI nástroje použít k útokům, jak tvrdí. Pokud totiž někdo umělou inteligenci využije k vytvoření škodlivého kódu, podvodu nebo přípravě kybernetického útoku, problém nemusí vzniknout přímo v samotném systému. Model může „jen“ splnit požadavek uživatele.
„Nikdy neexistovala tak mocná zbraň jako lidé se zlými úmysly, kteří využívají nejnovější nástroje umělé inteligence. Nikdo nevěří, že postačí samoregulace,“
dodal Gates. Zároveň však upřesnil, že by bylo poměrně obtížné zasáhnout 100 procent lidí na planetě.
Navrhuje proto, aby tvůrci pokročilých AI systémů zavedli monitorování jejich používání a uchovávali záznamy o tom, co se v systémech děje. Takový dohled by mohl pomoci například při odhalování pokusů o zneužití AI pro kybernetické útoky nebo bioterorismus. Nejde tedy pouze o kontrolu samotného modelu, ale také o sledování způsobu, jakým ho lidé používají.
Podle Gatese by měli pravidla stanovit zákonodárci. Současně s tím uvedl, že Spojené státy by měly zajistit zavedení takových opatření a upozornil, že podobný přístup bude chtít i Čína.
„Je třeba, aby se policie a politici zapojili do diskuse o tom, jak mají bezpečnostní opatření a dohled vypadat, a musí jít o povinnou součást systému,"
uvedl Gates.
Mezistátní setkání nejmocnějších
Také proto se Čína a Spojené státy na nedávném setkání svých hlav států dohodly na zahájení dialogu o umělé inteligenci o přínosech a rizicích této technologie. Obě země zároveň vytvoří komunikační kanál pro řešení případných incidentů souvisejících s AI. S dalším rozvojem AI by podle Pekingu měly obě země posílit vzájemnou komunikaci a usilovat o společná stanoviska, která budou odpovídat novému vývoji technologie.
Velkou pozornost vyvolal například červencový incident, kdy umělá inteligence společnosti OpenAI pronikla do systémů firmy Hugging Face. Poté následovalo zveřejnění několika podobných incidentů v OpenAI i u konkurentů, jako Anthropic a Meta.
Nvidia nabízí řešení
Společnost Nvidia proto také v té souvislosti představila novou softwarovou platformu, která má vývojářům umělé inteligence pomoci zajistit, aby se jejich AI modely nevymkly kontrole.
„Podle našich informací by tato nová bezpečnostní platforma mohla průniku zabránit, kdyby byla ve špičkových vývojových laboratořích již v ranné fázi využívána k hodnocení modelů,"
uvedl podle ČTK viceprezident firmy Justin Boitano.
S platformou OpenShell dostávají vývojáři podle Gatese do rukou nástroj, jak udržet autonomní AI agenty na uzdě. Systém garantuje, že model dostane do přihrádky jen ta oprávnění, bez kterých se při práci neobejde, nebude zde ani o jedno navíc.
O zbytek se stará Sentry, samostatný bezpečnostní hlídač, který běží na pozadí a nepřetržitě monitoruje vše, co agent dělá. Jakmile zachytí pokus o jakékoliv vybočení z nastavených pravidel, okamžitě zasáhne a akci utne v zárodku.
Šéf Nvidie Jensen Huang přitom ještě nedávno tvrdil, že se nic dramatického neděje. Zároveň ale upozornil, že je v nejlepším zájmu jeho firmy zajistit, aby se AI produkty vyvíjely zodpovědným způsobem.
„Úspěch našeho podniku je přímo spojený s bezpečným zaváděním produktů a služeb. Pokud v tom nebudeme pokračovat, naše hodnota klesne,"
napsala ČTK.
Zdroje: autorský článek, ČTK, NBC
