// FUTURA SCIENCES — SPAZIO & SCIENZA
« Chaque acteur malveillant dispose désormais des capacités d’un État » : comment l’IA change la cybercriminalité
L’idée d’une intelligence artificielle capable de dépasser l’humain alimente depuis plusieurs années les scénarios les plus inquiétants. Mais pour certains des chercheurs qui ont contribué à son développement, le risque ne relève plus seulement de la science-fiction. Car si une IA voulait réellement nous détruire, elle n’aurait peut-être même pas besoin de robots ou d’armes : il lui suffirait de nous parler.... Lire la suite
L’informatique quantique n’est plus la seule menace qui plane sur la sécurité de nos données. Une intelligence artificielle vient de mettre en évidence une faille dans un algorithme prometteur du chiffrement post-quantique, en seulement 60 heures. Une découverte qui pourrait bien changer la manière dont ces technologies sont évaluées.... Lire la suite
L’intelligence artificielle ne se contente plus d’assister les hackers, elle leur permet désormais d’automatiser une grande partie de leurs attaques. Une évolution qui change profondément le rapport de force entre cybercriminels et défenseurs, et qui pourrait rendre les méthodes de protection actuelles rapidement dépassées.
L'intelligence artificielle est une véritable menace, et ce sont les spécialistes qui le disent. La semaine dernière, Geoffrey Hinton, l'un des pères fondateurs de l'intelligence artificielle, estimait à 10 % le risque qu'elle tue tout le monde dans les 10 prochaines années. Et Jacob Coxon, un employé d'Anthropic, démissionnait en brandissant la menace que l'IA représente pour l'humanité. Depuis, Anthropic, OpenAI, Google et Elon Musk veulent ralentir le développement de l'IA. Les mauvaises langues diront que c'est plus pour ralentir la concurrence alors qu'ils manquent d'investissements pour continuer à soutenir la bulle de l'IA.
L’idée d’une intelligence artificielle capable de dépasser l’humain alimente depuis plusieurs années les scénarios les plus inquiétants. Mais pour certains des chercheurs qui ont contribué à son développement, le risque ne relève plus seulement de la science-fiction. Car si une IA voulait réellement nous détruire, elle n’aurait peut-être même pas besoin de robots ou d’armes : il lui suffirait de nous parler.... Lire la suite
Selon Geoffrey Hinton, l'IA pourrait s'en prendre à l'humanité avec une série de cyberattaques. C'est un scénario plausible, car ces modèles sont de plus en plus capables grâce à leurs agents. Les récentes attaques menées par les principales IA à l'insu de leurs développeurs en sont la preuve. Seules, elles commencent déjà à inquiéter. Toutefois, dirigées par un humain, elles peuvent réellement faire des dégâts.
Anthropic a récemment publié un rapport de plus de 150 pages sur les abus de son modèle, illustrant ainsi un véritable changement d'ère pour la cybercriminalité. L'ère du hacker isolé qui vise ses cibles une par une, en prenant le temps de trouver leurs points faibles, est révolue. Désormais, l'IA permet à n'importe qui de mener en quelques instants des attaques à grande échelle. Anthropic a détecté un détournement de Claude par « des groupes soupçonnés d'être soutenus par des États, des cybercriminels motivés par le gain financier et des individus aux motivations politiques ».
We're publishing our most detailed threat intelligence report to date.It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them.We disrupted every operation in the report,…
Les agents des IA peuvent permettre à des personnes motivées et sans grandes connaissances de mener « des campagnes qui, il y a un an à peine, auraient exigé de nombreux opérateurs qualifiés et des connaissances spécialisées ». Toute la chaîne d'attaque a été automatisée. Auparavant, de nombreux groupes de hackers développaient des outils qu'ils utilisaient jusqu'à ce qu'ils aient été détectés et bloqués, puis en développaient des nouveaux. Identifier rapidement ces outils constituait une défense solide, augmentant considérablement