Raziskovalna skupina Base Labs, ki jo je podjetje Baseten ustanovilo v začetku letošnjega leta, je napovedala novo partnerstvo za varnost umetne inteligence. Pridružila se ji bosta Hugging Face in Goodfire, cilj sodelovanja pa je razviti in javno objaviti metode za usposabljanje ter nadzor odprtih modelov AI.
Gre za pomemben korak v razpravi o varnosti sistemov umetne inteligence, ki so dostopni javnosti in jih je mogoče prosto prilagajati. Odprti modeli namreč prinašajo široke možnosti za raziskave in inovacije, hkrati pa odpirajo vprašanja, kako jih nadzorovati, da ne bi prišlo do zlorab ali neželenih posledic.
Partnerstvo združuje tri akterje z različnih področij. Hugging Face je eno osrednjih vozlišč za odprte modele in skupnost razvijalcev, Goodfire pa se ukvarja z razumevanjem delovanja nevronskih mrež. Base Labs bo v tem okviru prispeval raziskovalno metodologijo in izkušnje pri usposabljanju modelov.
Če bodo rezultati javno dostopni, bi lahko partnerstvo postavilo nekakšen skupni standard za varen razvoj odprtih modelov. To je še posebej pomembno v času, ko se zakonodaja na področju umetne inteligence po svetu zaostruje, industrija pa išče ravnovesje med odprtostjo in odgovornostjo.
Podrobnosti o časovnici in konkretnih prvih izdelkih za zdaj niso znane. Jasno pa je, da bo projekt potekal v obliki javno objavljenih metod in orodij, kar pomeni, da bodo lahko od njega imeli korist tudi drugi razvijalci in raziskovalci po svetu.
Vir: TechCrunch AI
Foto: DFID – UK Department for International Development / BY (vir slike)



