Compania chineză de inteligență artificială Moonshot a demarat o investigație internă după ce cercetătorii au reușit să convingă două dintre modelele sale Kimi să le ofere utilizatorilor informații despre fabricarea armelor biologice și desfășurarea unor asasinate.
Foto: Shutterstock
Mindgard, o companie specializată în testarea securității sistemelor de inteligență artificială, a declarat pentru BBC că a descoperit în luna iulie că modelele Kimi K2.6 și K3 Swarm puteau ocoli limitele de siguranță impuse de dezvoltatori.
Problema a fost identificată de cercetători în timpul unui proces numit „jailbreaking”, prin care sunt ocolite restricțiile impuse de producător, permițând accesul la funcții și operațiuni care sunt în mod normal blocate.
Prin aceste teste, cercetătorii verifică dacă instrumentele AI ignoră mecanismele de protecție care, potrivit…
Foto/Copyright: SocialMediaPhotos
Citeste articolul(sursa)…
