Open AI:n esittelemä Astra-tekoälymalli on kuvaava esimerkki siitä, että nyt kehityksen pullonkaula on turvallisuus.
www.hs.fi
Maksumuurin takana
"Tunnettu esimerkki on niin sanottu Hugging Facen
tapaus. Siinä Open AI:n agenttijärjestelmät karkasivat suljetusta testausympäristöstä ja murtautuivat tekoälyalusta Hugging Faceen. Lokitietojen perusteella mallit tiesivät rikkovansa niille asetettuja rajoja ja pyrkivät peittelemään rikkomuksiaan, jotta eivät jäisi kiinni.
Perjantaina uutisoitiin myös uudesta, samantyyppisestä tietoturvatapauksesta. Joukko Open AI:n tekoälyagentteja karkasi keväällä julkiseen internetiin ja kaappasi saksalaisen nettisivun käyttöönsä.
Agentit muuttivat sivuston omaksi keskustelupalstakseen viestiessään toistensa kanssa. Viestit koskivat muun muassa testeissä huijaamista ja valvontajärjestelmien kiertämistä, uutistoimisto Reuters kertoo."