Secondo uno studio le I.A. stanno insegnando a sé stesse come “ingannare e manipolare gli umani”

I.A.
Credits: Getty Stock Images
Condividi l'articolo

Secondo questo studio le I.A. stanno imparando come ingannare gli umani, e stanno imparando in fretta

Pariamo ancora di I.A. (intelligenze artificiali), argomento caldo da ormai più di un anno. Come sappiamo sono sempre più sofisticate e stanno imparando a fare tutto. Per quanto per ora molte delle cose che fanno risultino ancora vaghe imitazione dell’attività umana, non sono in pochi ad essere preoccupati per quello che potrebbero realizzare tra qualche anno.

E un recente studio, pubblicato nel magazine Patterns, sostiene che starebbero apprendendo capacità volte ad “ingannare” gli umani. “I sistemi I.A. sono già capaci di ingannare gli umani. Larghi modelli di linguaggio e altri sistemi hanno già imparato, dal loro addestramento, l’abilità di ingannare con tecniche come la manipolazione, sicofantia e imbrogliare i test di sicurezza”.

“Le crescenti capacità delle I.A. nell’inganno pongono rischi seri, da quelli a breve termine come la frode e la manomissione delle elezioni, a quelli a lungo termine, come la perdita di controllo dei sistemi. Servono soluzioni proattive come strutture regolatorie per valutare i rischi di inganno, leggi che richiedano trasparenza sulle interazioni con le intelligenze artificiali, e ulteriori ricerche sull’individuazione e la prevenzione degli inganni [ad opera di] I.A.”.

LEGGI ANCHE:  Gli esperti: "Al 50% l'IA porterà a una catastrofe"

Preoccupante, insomma. Cosa ne pensate? Fatecelo sapere su LaScimmiaPensa e iscrivetevi al nostro canale WhatsApp