L’IA peut-elle aider à détecter les extrémistes en ligne qui deviendront violents ? Cet Israélien...

Dans le sillage de la menace croissante de l'extrémisme en ligne et du potentiel de violences dans la vraie vie, une start-up israélienne nommée RealEye se distingue en identifiant et en élaborant le profil des activistes dangereux. Les systèmes de la société, Masad et Fortress, utilisent des modèles d'IA avancés pour analyser de vastes quantités d'empreintes numériques et faire la distinction entre les comportements en ligne bénins et potentiellement nocifs.

L'objectif de RealEye est d'aborder les expériences uniques en ligne qui contribuent à la radicalisation et d'éliminer la formation de comportements dangereux. En identifiant les voies qui mènent à l'extrémisme violent, la société vise à donner aux gouvernements et aux organisations de la société civile les moyens de détecter les dangers à l'avance.

Le défi de trouver des menaces en ligne est encore compliqué par l'émergence de "radicaux de deuxième génération", qui viennent de milieux stables et sont radicalisés par l'exposition aux récits extrémistes en ligne. La technologie de RealEye est conçue pour identifier ces individus et les distinguer des méthodes de renseignement open-source conventionnelles.

RealEye a levé 1,1 million de dollars pour fournir des informations basées sur les données aux autorités chargées des établissements pénitentiaires et de l'immigration, aux agences de renseignement et d'application de la loi, et à l'armée. La société est également devenue un fournisseur d'une agence de sécurité israélienne, démontrant son engagement à aider les organismes d'application de la loi grâce aux informations et à l'intelligence qu'il dégage.

Bien que la prévention de l'incitation et de la violence en ligne et sur les réseaux sociaux de se transformer en violence réelle soit un objectif crucial, RealEye fait valoir qu'une action équilibrée et délicate est nécessaire pour combattre la haine en ligne. Cela inclut l'incorporation d'un cadre éthique, la préservation de la vie privée et la promotion des partenariats entre les gouvernements, les organisations de la société civile et les experts de la technologie.

Le chemin vers la radicalisation en ligne n'est pas linéaire, et le défi de trouver l'aiguille dans la botte de foin nécessite des outils technologiques sophistiqués. La technologie alimentée par l'IA de RealEye est en première ligne de ce défi, analysant de vastes quantités d'empreintes numériques pour identifier les signes de risques potentiels.

Alors que l'extrémisme en ligne continue de représenter une menace claire et immédiate pour les sites israéliens et juifs dans le monde entier, la technologie de RealEye fournit un service vital en identifiant et en élaborant le profil des activistes dangereux avant qu'ils ne deviennent violents.

Source: <https://www.israelhayom.com/2024/04/14/israeli-ai-startup-aims-to-identify-online-extremists-before-they-turn-violent/>

Comments

Popular posts from this blog

Apprendre les langues étrangères : Outils modernes et potentiel du ChatGPT

ChatGPT-4 reproduit l'animation GapMinder en une seule tentative

GPT-4 vs GPT-3.5 - Dévoiler l'avenir des modèles de langage de l'IA