Halucinacija velikega jezikovnega modela je po poročanju portala TechCrunch AI skoraj sprožila ameriško vojaško operacijo. Primer, objavljen 18. septembra 2026, opozarja na tveganja uporabe umetne inteligence v okoliščinah, kjer lahko napačen izhod vpliva na odločitve z resnimi posledicami.
Jezikovni modeli lahko ustvarijo prepričljive, vendar napačne ali izmišljene informacije. Prav ta lastnost, ki jo v tehnološkem žargonu označujejo kot haluciniranje, je posebej problematična pri nalogah, kjer uporabniki pričakujejo zanesljive podatke in hitro ukrepanje.
Raziskovalec organizacije GovAI je ob tem poudaril, da morajo pripadniki oboroženih sil razumeti negotovost, ki je neločljivo povezana z velikimi jezikovnimi modeli. Opozorilo se nanaša na potrebo po preverjanju rezultatov in previdni uporabi sistemov umetne inteligence pri občutljivih odločitvah.
Primer odpira širše vprašanje nadzora nad umetno inteligenco v državni varnosti. Tudi kadar je sistem uporabljen kot pomoč pri analizi, njegova priporočila ne morejo samodejno nadomestiti človeške presoje, neodvisnega preverjanja in jasno določenih varnostnih postopkov.
Vir: TechCrunch AI
Foto: Lenharth Systems / CC0 (vir slike)



