L’impact de l’IA open source sur le hacking : le point de vue du FBI
Les hackers exploitent de plus en plus les modèles d’IA open source pour améliorer leurs outils et piéger les internautes, selon le FBI (Federal Bureau of Investigation). Ces modèles d’IA gratuits et personnalisables, accessibles à tous sur internet, sont préférés par les hackers par rapport aux modèles contrôlés par des entreprises. Ils sont également plus légers et moins gourmands en puissance de calcul, ce qui permet de les utiliser localement sur un ordinateur ou un smartphone. De plus, les cybercriminels utilisent des modèles d’IA personnalisés développés par d’autres hackers, disponibles sur le dark web.
Utilisation de l’IA par les cybercriminels
Les hackers utilisent des chatbots basés sur des modèles de langage tels que ChatGPT, Google Bard ou Claude pour faciliter leurs activités malveillantes. Ils parviennent à convaincre ces IA de contourner les mesures de sécurité et les restrictions mises en place par les créateurs de ces outils en utilisant des requêtes précises. Le FBI a alerté sur l’utilisation massive des modèles de langage par la communauté criminelle, mais a constaté que les modèles d’IA les plus populaires auprès des internautes ne sont pas les préférés des hackers.
Les modèles open source, un outil privilégié par les hackers
Les hackers préfèrent utiliser des modèles d’IA open source gratuits et personnalisables plutôt que ceux contrôlés par des entreprises. Ces modèles open source, accessibles à tous sur internet, peuvent facilement être utilisés pour générer du contenu illicite. De plus, ces modèles sont plus légers et demandent moins de puissance de calcul que les grands modèles développés par des géants du secteur. Sur le dark web, il existe de nombreux chatbots conçus par des hackers pour générer du contenu illégal, tels que des malwares. Certains chatbots dédiés aux activités criminelles sont vendus à un prix élevé sur le dark web.
Les différentes utilisations de l’IA par les cybercriminels
Les pirates utilisent l’IA de différentes manières pour mener leurs activités illicites. Ils l’utilisent pour concevoir des pages de phishing imitant l’interface de plateformes officielles, pour créer des virus polymorphes difficiles à détecter par les antivirus traditionnels, et pour générer des images et des vidéos falsifiées dans le cadre d’extorsions. Ils peuvent également utiliser une IA de clonage vocal pour manipuler leurs victimes au téléphone.
L’avenir de l’IA et du hacking
Le FBI prévoit une augmentation de l’utilisation criminelle de l’IA à mesure que cette technologie se démocratise. Il est donc essentiel de développer des stratégies de prévention et de protection pour contrer l’utilisation malveillante de l’IA par les hackers. Cela passe par la sécurisation des modèles d’IA open source et la mise en place de mesures de sécurité plus robustes pour éviter les manipulations. Il est important de veiller à une utilisation responsable et éthique de l’IA.
Source: PCMag