Pentagon je prenehal uporabljati orodja umetne inteligence podjetja Anthropic, potem ko je to družbo februarja uvrstil na seznam tveganj v dobavni verigi. Kot je za BBC povedal vir, je odločitev sledila temu, da Anthropic ni pristal na odstranitev varnostnih omejitev iz svojih orodij.
Po navedbah vira je ameriško obrambno ministrstvo Anthropic označilo za tveganje v dobavni verigi, kar pomeni, da njegovih izdelkov v obstoječi obliki ne želi več uporabljati v svojih sistemih. Podrobnosti o tem, katera konkretna orodja so bila v uporabi in kdaj točno je bila uporaba ustavljena, za zdaj niso javno znane.
Anthropic je eno od vodilnih podjetij na področju razvoja velikih jezikovnih modelov in velja za zagovornika previdnejšega pristopa k varnosti umetne inteligence. Njegova politika vključuje vgrajene omejitve, ki naj bi preprečevale zlorabe, med drugim pri uporabi v vojaške namene. Prav te omejitve naj bi bile po poročanju v središču spora.
Odločitev Pentagona odpira širše vprašanje o tem, kako se državne institucije, zlasti obrambne, opirajo na zasebna tehnološka podjetja in kako usklajujejo svoje zahteve z njihovimi etičnimi smernicami. Podobna napetost se je v preteklosti že pokazala pri sodelovanju drugih velikih tehnoloških družb z vojsko.
Za Anthropic in druge ponudnike AI orodij bi lahko takšna uvrstitev na seznam pomenila izgubo pomembnega naročnika, hkrati pa opozorilo, da morajo podjetja pri pogodbah z državo vnaprej jasno opredeliti meje uporabe svojih tehnologij. Kako bo spor rešen in ali bo prišlo do sprememb v sodelovanju, za zdaj ni znano.
Vir: BBC Svet



