Cina
La Cina impone un marchio obbligatorio per contenuti da Intelligenza Artificiale
Renovatio 21 pubblica questo articolo su gentile concessione di AsiaNews. Le opinioni degli articoli pubblicati non coincidono necessariamente con quelle di Renovatio 21.
Una bozza prevede per la prima volta regole specifiche per il settore, valide per aziende e creatori di contenuti. I video dovranno contenere una etichetta «esplicita». Gli esperti prevedono difficoltà nell’applicazione.
Pechino ha proposto una nuova normativa che prevede l’obbligo di identificare con chiarezza tutti i contenuti generati dall’Intelligenza Artificiale, nel tentativo di arginare l’aumento delle frodi legate all’uso di questa nuova tecnologia.
La bozza contenente le linee guida, pubblicata il 14 settembre scorso e aperta ai commenti del pubblico per un mese, prevede che tutte le immagini, i video e gli audio generati dall’IA siano chiaramente etichettati con un watermark (o filigrana elettronica) e metadati incorporati.
È la prima volta che l’Amministrazione cinese per il cyberspazio propone regole specifiche per la definizione e l’inquadramento di contenuti generati dall’Intelligenza Artificiale.
Secondo le linee guida, i video generati devono contenere un’etichetta «esplicita» visualizzata all’inizio della clip e visibile in ogni momento in un angolo dello schermo.
Vi è inoltre la forte raccomandazione a far lampeggiare l’etichetta stessa in alcuni momenti definiti «appropriati» del video stesso. Anche i metadati che registrano la fonte del file e le informazioni sul copyright – indicati come etichetta «implicita» – devono essere registrati al momento della creazione.
Le regole si applicherebbero non solo alle aziende di IA, ma anche ai singoli creatori di contenuti, alle piattaforme online, agli app store e a qualsiasi altro distributore di contenuti. Sempre secondo le linee guida, le piattaforme di distribuzione dei contenuti hanno l’obbligo di etichettare i file sospettati di essere generati dall’intelligenza artificiale, nel caso in cui vengano a mancare i metadati. Infine, gli app store sono tenuti a garantire che i fornitori di contenuti etichettino correttamente i contenuti generati dall’IA.
Le proposte sono l’ultimo sforzo delle autorità cinesi per combattere l’aumento dei casi di frode legati alla nuova tecnologia.
Secondo la start-up cinese RealAI, nei primi cinque mesi del 2024 in Cina sono stati sottratti oltre 185 milioni di yuan (26 milioni di dollari) utilizzando l’IA, rispetto ai soli 16,7 milioni di yuan dell’intero 2023. La tecnologia Deepfake, la sintesi vocale e i chatbot AI sono elencati come «scenari applicativi tipici ad alto rischio» nelle linee guida, evidenziando il loro potenziale utilizzo per frodare gli utenti.
Tuttavia, analisti ed esperti sottolineano che le nuove direttive potrebbero non essere così facili da applicare all’atto pratico. Fra le voci critiche vi è quella di Ma Ce, avvocato dello studio legale Zhejiang Kinding, specializzato in diritto di Internet, secondo cui le linee guida mancano di una chiara definizione di ciò che costituisce «contenuto generato dall’Intelligenza Artificiale che richiede la filigrana».
L’obbligo per i creatori e le piattaforme online di aggiungere correttamente i metadati ai file generati «porrà delle sfide tecniche», ha aggiunto l’esperto. Le linee guida non specificano inoltre le sanzioni per i creatori e i distributori di contenuti che violano le regole.
La Cina non è l’unico Paese che sta cercando di garantire che i contenuti generati dall’intelligenza artificiale siano chiaramente etichettati. L’Unione Europea, gli Stati Uniti, Singapore e il Canada si stanno muovendo per regolamentare questo settore. Tuttavia, rimangono diversi interrogativi sulle modalità di attuazione delle norme che impongono il watermarking dei contenuti online.
Invitiamo i lettori di Renovatio 21 a sostenere con una donazione AsiaNews e le sue campagne.
Renovatio 21 offre questo articolo per dare una informazione a 360º. Ricordiamo che non tutto ciò che viene pubblicato sul sito di Renovatio 21 corrisponde alle nostre posizioni.
Iscriviti alla Newslettera di Renovatio 21
Cina
La Cina condanna il fondatore di Evergrande all’ergastolo
Iscriviti alla Newslettera di Renovatio 21
Iscriviti al canale Telegram ![]()
Iscriviti alla Newslettera di Renovatio 21
Cina
IA cinese esce dal sistema di sicurezza integrato
Un modello di Intelligenza Artificialecinese di punta è riuscito a eludere le restrizioni durante un test controllato di sicurezza informatica, intensificando le preoccupazioni sull’efficacia delle misure di sicurezza dell’IA, secondo quanto dichiarato dalla società di ricerca sulla sicurezza informatica statunitense Frontier Security.
I ricercatori hanno individuato il modello in Kimi K3, il principale prodotto della startup Moonshot, spiegando che ha avuto accesso a informazioni online durante una valutazione condotta in un ambiente di test isolato sviluppato dall’AI Security Institute del Regno Unito. Il sistema è concepito per mantenere i modelli di intelligenza artificiale scollegati da Internet mentre vengono valutate le loro capacità.
Anziché portare a termine il compito basandosi esclusivamente sulle informazioni fornite per il test, Kimi K3 ha individuato un modo per accedere a dati online, secondo Frontier Security. I ricercatori hanno precisato che il modello ha sfruttato una debolezza nella configurazione dell’ambiente di test, senza violare direttamente la sua sicurezza.
A differenza di alcuni modelli di intelligenza artificiale coinvolti in recenti episodi di test, Kimi K3 non ha tentato di accedere o attaccare siti web o sistemi informatici esterni, ha dichiarato Frontier Security. Tuttavia, i ricercatori hanno evidenziato che l’incidente indica come il modello sia privo di alcune delle misure di sicurezza informatica integrate presenti nei sistemi di IA concorrenti e possa comportare rischi maggiori, poiché è già disponibile pubblicamente per gli sviluppatori che possono scaricarlo, modificarlo e utilizzarlo.
Sostieni Renovatio 21
Questo episodio si inserisce in una serie di inconvenienti analoghi emersi durante i test, segnalati nelle scorse settimane da OpenAI e Anthropic, i cui modelli di AI sono anch’essi usciti dagli ambienti di test previsti nel corso di valutazioni controllate. In alcuni di questi casi, i sistemi hanno interagito con servizi online esterni mentre cercavano di completare i compiti assegnati.
Come riportato da Renovatio 21, la settimana scorsa anche Meta è diventata la terza grande azienda tecnologica a comunicare che la propria Intelligenza Artificiale ha perso il controllo e ha violato i sistemi di un’azienda terza.
Le più recenti scoperte accrescono il controllo sui sistemi di IA avanzati, mentre governi, ricercatori e aziende tecnologiche lavorano per rafforzare i test di sicurezza. Valutazioni recenti hanno mostrato che i modelli di IA, sempre più sofisticati, possono sfruttare debolezze impreviste negli ambienti di test o operare al di là dei limiti stabiliti dai ricercatori.
Nel frattempo, è emerso che nei recenti attacchi l’IA ha preso di mira persona reali durante i test.
Come riportato da Renovatio 21, a maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.
Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.
Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.
Iscriviti alla Newslettera di Renovatio 21
Immagine generata artificialmente
Cina
La Cina inizia a mandare le navi in Europa attraverso la rotta del Nord
Sostieni Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
-



Internet1 settimana faLa figlia di Bill Gates accusata di frode: rischierebbe 20 anni in galera
-



Storia2 settimane faIncontro in Giappone con la mamma del conte Kalergi. Alla Messa in latino…
-



Catastrofi1 settimana faTerremoto colpisce la Messa in latino durante la consacrazione
-



Epidemie1 settimana faLettera di mons. Viganò all’avvocato antipandemico in carcere
-



Occulto5 giorni faMedjugorje, per sei membri della Commissione vaticana «non è spiegabile senza l’intervento del Maligno»
-



Gender1 settimana faBambino di 7 anni torturato a morte da «mamme transgender»
-



Morte cerebrale1 settimana faCalciatore dato per morto si risveglia in obitorio. Dichiarare la morte non equivale a determinarla
-



Vaccini2 settimane faLa FDA approva il vaccino antinfluenzale a mRNA di Moderna. E il nuovo capo CDC è la «regina degli obblighi vaccinali»













