L’esercito tedesco usa l’IA per stanare gli estremisti di destra

Che le forze armate tedesche abbiano un problema di estremismo piuttosto serio è cosa nota: si contano numerosi casi, negli anni passati, di ufficiali, sottufficiali e soldati sospesi dal servizio o denunciati per aver condiviso o attivamente propagandato ideologie e simboli contrari alla costituzione tedesca, inneggiato apertamente al nazismo e manifestato posizioni razziste e antidemocratiche. Proprio per evitare che coloro che aderiscono a certe ideologie entrino nell’esercito, da luglio, i servizi segreti militari tedeschi hanno iniziato a usare l’IA per monitorare su internet tutti i potenziali candidati all’ingresso nella Bundeswehr e stanare per tempo gli estremisti di destra.

La Bundeswehr usa l’IA per scoprire se gli aspiranti militari condividono contenuti di estrema destra online

Secondo quanto riportato dal settimanale Der Spiegel, poi ripreso da diverse altre testate tedesche, il MAD (Militärische Abschirmdienst, ovvero il servizio di controspionaggio militare) ha iniziato a servirsi di un sistema di intelligenza artificiale riportato ad hoc, denominato “Controllo assistito della fedeltà alla costituzione” per velocizzare procedure di controllo che, eseguite manualmente, avrebbero richiesto diversi mesi. A essere oggetto di analisi sono tutte le attività online di coloro che ambiscono a entrare nelle forze armate. 

Il sistema verifica se i candidati diffondano o condividano online contenuti di estrema destra e se seguano account di estremisti di destra. Sempre secondo lo Spiegel, il numero dei candidati già rifiutati dopo questi controlli sarebbe a tre cifre.

Lo stesso tipo di controlli si applicano anche ai riservisti: coloro che, in base all’analisi della loro attività online, emergessero come tendenzialmente estremisti o sostenitori di antidemocratiche non sarebbero più chiamati a svolgere le esercitazioni.

Proprio l’uso di questo software è una delle novità (forse la meno nota) introdotte dalla nuova legge sul rafforzamento del personale delle forze armate federali, approvata a gennaio e fortemente voluta dal Ministro della Difesa Boris Pistorius (SPD). Il sistema cerca i simboli e i codici che si associano agli ambienti di estrema destra, come i numero “18” e “88”, ma anche certi utilizzi delle emoji (il doppio fulmine, per esempio, indica le SS). Vengono analizzati anche tatuaggi e scelte estetiche prossime allo stile skinhead e la vicinanza a club specifici, come certi gruppi di motociclisti notoriamente vicini all’estremismo di destra.

Al fine di permettere l’analisi, i candidati devono fornire tutti i propri nomi utente all’inizio del procedimento, così che il sistema possa esaminare commenti sui social, post, messaggi su telegram, etc. Inoltre, si utilizza la fototessera allegata alla domanda per cercare altri account non dichiarati, qualora il candidato o la candidata avesse tenuto nascosti eventuali altri profili social, utilizzati per diffondere contenuti anticostituzionali. Il sistema si preoccupa di raccogliere tutte le anomalie e i casi sospetti, per poi sottoporli alla verifica di ufficiali umani del MAD.

In discussione altri usi dell’intelligenza artificiale per le forze dell’ordine

Di profilazione online, in Germania, si discute anche a un livello più ampio e non senza controversie, soprattutto per quanto riguarda l’utilizzo delle fotografie e di altri metodi di riconoscimento biometrico. Il Bundestag tedesco, infatti, sta discutendo un possibile “pacchetto sicurezza” che darebbe la possibilità anche alla polizia federale, a quella criminale, all’ufficio per la protezione della Costituzione e al servizio federale di intelligence di utilizzare questo tipo di tecnologie. Al momento, va tenuta in considerazione la legge europea sull’IA, che vieta l’uso di dati biometrici per la sorveglianza di massa, ma non è ancora chiaro che tipo di poteri il governo stia pensando di conferire alle forze dell’ordine e ai servizi segreti in tal senso.