Directoratul Național de Securitate Cibernetică (DNSC), alături de Poliția Română, Centrul Național Cyberint din cadrul Serviciului Român de Informații și Asociația de Securitate Cibernetică pentru Cloud – Cloud Security Alliance Romanian Chapter (CSA_RO), atrag atenția asupra importanței colaborării pentru prevenirea riscurilor din mediul digital. Într-un spațiu online dominat de conținut personalizat și algoritmi care ne influențează ce vedem și ce citim, protecția reală presupune implicarea tuturor: instituții, unități de învățământ, familie și comunitate.

În contextul evoluției rapide a tehnologiilor digitale, comunitatea academică a UNMB este invitată să consulte ghidul educațional Inteligența Artificială & Manipularea Percepției Umane. Acest document explorează modul în care Inteligența Artificială (AI) este utilizată pentru a influența subtil percepția umană și pentru a distorsiona realitatea prin metode avansate de dezinformare.

Descarcă ghidul

Ce este Inteligența Artificială (IA) în viziunea autorilor ghidului?

IA este definită ca un ansamblu de tehnologii capabile să simuleze procese umane precum învățarea, raționamentul și luarea deciziilor. Spre deosebire de algoritmii clasici, IA modernă învață din date și se adaptează, fiind capabilă să creeze conținut (text, voce, video) aproape imposibil de deosebit de realitate.

Tehnologii și mecanisme de manipulare

Documentul detaliază mai multe tehnologii cheie implicate în manipularea percepției:

• Rețele Neuronale (Deep Learning): Acționează ca un „creier digital” care extrage tipare complexe din date pentru a genera conținut hiper-realist.
  
• Modele de Limbaj Mari (LLMs): Precum ChatGPT sau Gemini, folosite pentru a genera argumentații persuasive sau știri false convingătoare.
  
• Machine Learning Afectiv (Emotion AI): Tehnologie care detectează stările emoționale (stres, furie, bucurie) și ajustează conținutul pentru a exploata vulnerabilitățile utilizatorului.
  
• Deepfake și AI Vizual: Crearea de imagini și videoclipuri false care pot distruge reputații sau pot simula declarații inexistente ale unor lideri.
  

Principalele riscuri identificate

• Bulele Informaționale: Algoritmii de recomandare oferă doar conținut care confirmă convingerile existente, ducând la radicalizare și polarizare.
  
• Microtargeting Psihografic: Livrarea de mesaje ultra-personalizate bazate pe profilul psihologic al utilizatorului pentru a influența voturi sau achiziții.
  
• Recomandarea Comportamentală Predictivă: IA nu doar reacționează, ci prezice ce urmează să facă utilizatorul, modelându-i deciziile înainte ca acesta să le conștientizeze.
  
• Simularea Empatiei: Boți care mimează emoții umane pentru a câștiga încrederea în scopuri de fraudă (ex: romance scam sau recrutări false).
  

Recomandări/ metode de prevenire și protecție

Documentul pune accent pe transformarea utilizatorului dintr-o țintă pasivă într-un actor conștient:

• Antrenarea gândirii critice digitale: Chestionarea surselor și a motivului pentru care un anumit conținut apare în feed.
  
• Verificarea multisursă: Utilizarea uneltelor de detectare a falsurilor (ex: Deepware Scanner, Microsoft Video Authenticator).
  
• Limitarea datelor personale: Reducerea volumului de informații partajate pentru a îngreuna profilarea psihografică.
• Skepticismul activ: Punerea de întrebări directe interlocutorilor digitali („Ești un AI?”) și evitarea deciziilor sub impuls emoțional.

Descarcă ghidul