Un nuovo approccio chiamato "reverse game theory" sta emergendo come possibile metodo per controllare i modelli di intelligenza artificiale (AI), secondo quanto riportato da Amit Katwala su Wired UK. L'idea centrale è progettare sistemi che incentivino gli AI a seguire le regole, piuttosto che obbligarli a farlo. Un esempio classico di teoria dei giochi è "se una persona taglia una torta e l'altra ha la prima scelta, il tagliatore ha un incentivo a rendere le porzioni uguali". Questo principio viene ora applicato alla progettazione di modelli AI, con l'obiettivo di allinearli meglio con le istruzioni e i desideri umani.
Mentre la teoria è promettente, rimangono domande aperte sulla sua efficacia pratica. Può davvero prevenire comportamenti indesiderati o sfuggenti nei sistemi AI? O è solo una parte di un insieme più ampio di strumenti di controllo?
Parallelamente, negli Stati Uniti si osserva un fenomeno politico legato all'AI. James O'Donnell segnala su la newsletter di The Atlantic che, dopo la firma di un ordine esecutivo da parte del Presidente Trump alla fine di settembre, il termine "Super Intelligence" ha iniziato a comparire su siti web e documenti governativi circa un mese dopo. Questo cambiamento è stato interpretato da alcuni come un "test di lealtà" verso l'amministrazione, con il nuovo termine che segna chi è allineato con la direzione politica attuale e chi no. Alcuni nomi noti nel settore tecnologico continuano a usare "AI", indicando una resistenza al cambiamento. Con le elezioni di medio termine imminenti, ci si chiede se il termine "Super Intelligence" continuerà a essere usato o se verrà abbandonato.