Frauda și fake news-ul pe internet sub control: platformele investesc în AI
Nu știu dacă ți-ai dat seama, dar din ce în ce mai mult, cuvântul „AI” apare în majoritatea device-urilor și aplicațiilor de pe telefoane.
Ei bine, siguranța online a devenit în ultimii ani un subiect sensibil, iar presiunea asupra companiilor de tehnologie este mai mare ca niciodată.
Vestea bună este că giganții din telecom și rețele sociale au găsit o armă puternică pentru a combate anumite fraude și înșelăciuni și anume, inteligența artificială aplicată în recunoașterea imaginilor.
Dacă până acum moderarea conținutului depindea în mare parte de echipe umane, acum, AI-ul schimbă radical regulile jocului.
Algoritmi tot mai avansați pot detecta conținut periculos, precum materiale violente, fake news vizuale sau chiar deepfake-uri, înainte ca acestea să se viralizeze. Și deja marile platforme investesc miliarde de dolari în astfel de soluții.
Probabil vă dați seama că cele mai multe fraude sau înșelăciuni apar pe pagini precum Facebook și Instagram, însă lucrurile merg într-o direcție mai bună, pentru că acestea folosesc AI pentru a identifica automat conținut sensibil.
TikTok a anunțat noi filtre bazate pe machine learning, iar operatorii de telefonie testează integrarea acestor tehnologii direct la nivel de rețea, pentru un strat suplimentar de securitate.
Dar AI-ul nu se oprește doar la moderare, pentru că tot mai multe startup-uri construiesc aplicații capabile să recunoască imagini suspecte pe baza unor seturi masive de date. Asta înseamnă un viitor în care riscurile online pot fi reduse înainte să devină probleme reale.
Criticii atrag atenția că există riscul ca aceste sisteme să greșească sau să devină prea invazive.
Cu toate acestea, direcția este clară, iar în următorii ani siguranța digitală nu va mai putea fi imaginată fără suportul AI.
Totuși, într-o lume unde un singur clip fals poate declanșa panică globală, inteligența artificială devine cel mai important aliat al companiilor pentru a menține internetul un loc sigur.
