Sam Altman, le patron d'OpenAI, s'est exprimé devant des étudiants de la Stanford Graduate School of Business sur les répercussions de l'intelligence artificielle sur la cybersécurité. À cette occasion, il a tenu des propos particulièrement alarmants. Cette mise en garde intervient dans un contexte de préoccupations croissantes concernant les attaques informatiques et l'utilisation de l'IA pour exploiter des failles de sécurité. Pour Sam Altman, les incidents déjà observés pourraient n'être qu'un aperçu de ce qui nous attend. "Je ne trouve pas de mot qui soit assez dramatique pour décrire le problème qui arrive", aurait déclaré le dirigeant d'OpenAI lors de cette intervention.
Les risques liés aux comportements imprévus des systèmes d'intelligence artificielle soulèvent de nombreuses interrogations. Des incidents rapportés dans le secteur technologique montrent notamment les difficultés que peuvent rencontrer les développeurs lorsqu'ils cherchent à limiter les actions d'agents autonomes. Ces systèmes sont conçus pour accomplir des tâches avec un certain degré d'autonomie. Mais lorsqu'ils disposent d'outils informatiques et d'autorisations étendues, leurs actions peuvent parfois dépasser le cadre initialement prévu. C'est précisément ce qui rend la situation préoccupante : un agent d'IA n'a pas besoin d'avoir une intention malveillante pour provoquer un incident de sécurité. Il peut simplement chercher à atteindre son objectif en empruntant des voies que ses concepteurs n'avaient pas anticipées.
Sam Altman s'interroge notamment sur les limites du concept traditionnel d'environnement sécurisé, également appelé sandbox. "Les modèles deviennent tellement intelligents que nous ne comprenons même plus ce que signifie réellement un environnement sécurisé. La surveillance seule ne suffira pas si nous n'avons pas un véritable alignement", aurait-il expliqué. Jusqu'à présent, les approches de cybersécurité reposent notamment sur la correction des failles connues, la limitation des accès et la surveillance des activités suspectes. Cependant, si des modèles d'IA deviennent capables de découvrir et d'exploiter de nombreuses vulnérabilités inconnues en très peu de temps, ces dispositifs pourraient être mis à rude épreuve. "Je ne crois plus que nous puissions simplement corriger toutes les vulnérabilités", aurait également souligné Sam Altman.
La question de la cybersécurité occupe une place importante dans le développement des modèles d'intelligence artificielle les plus performants. Leur capacité à analyser du code, à identifier des failles et à automatiser certaines opérations soulève notamment des inquiétudes concernant leur éventuelle utilisation malveillante. Selon les propos de Sam Altman, la mise à disposition de modèles particulièrement avancés devrait s'accompagner d'un renforcement des protections informatiques des entreprises et des organisations. Le dirigeant s'étonne également du décalage entre les inquiétudes des spécialistes de la cybersécurité et la perception du grand public. "Les professionnels de la cybersécurité sont extrêmement inquiets. Mais en dehors de ce milieu, j'ai le sentiment que la plupart des gens considèrent déjà le sujet comme réglé", aurait-il déclaré.
Tout le monde ne partage pas nécessairement l'analyse de Sam Altman. Certains observateurs reprochent aux entreprises spécialisées dans l'intelligence artificielle de mettre en avant les risques liés aux capacités futures de leurs modèles sans toujours répondre suffisamment aux problèmes de sécurité déjà identifiés. Le chercheur et critique de l'IA Gary Marcus fait notamment partie des personnalités qui interrogent régulièrement les pratiques de sécurité et la communication des grandes entreprises du secteur. Le débat dépasse ainsi la seule question des cyberattaques. Il porte également sur la responsabilité des développeurs, les conditions de déploiement des agents autonomes et les mesures nécessaires pour éviter que ces technologies ne provoquent de nouveaux incidents.
