Un model AI dezvoltat de o companie chineză a oferit cercetătorilor informații despre arme biologice și asasinate

Compania chineză de inteligență artificială Moonshot a demarat o investigație internă după ce cercetătorii au reușit să convingă două dintre modelele sale Kimi să le ofere utilizatorilor informații despre fabricarea armelor biologice și desfășurarea unor asasinate.

Publicitate

Foto: Shutterstock

publicitate„); background-position: center center; background-repeat: no-repeat;”>

Mindgard, o companie specializată în testarea securității sistemelor de inteligență artificială, a declarat pentru BBC că a descoperit în luna iulie că modelele Kimi K2.6 și K3 Swarm puteau ocoli limitele de siguranță impuse de dezvoltatori.

Problema a fost identificată de cercetători în timpul unui proces numit „jailbreaking”, prin care sunt ocolite restricțiile impuse de producător, permițând accesul la funcții și operațiuni care sunt în mod normal blocate.

Prin aceste teste, cercetătorii verifică dacă instrumentele AI ignoră mecanismele de protecție care, potrivit…