Produire devient gratuit, vérifier reste humain…
et superviser devient optionnel

🧵 Le fil conducteur : un étrange déséquilibre

Imaginez : un pirate envoie un seul message depuis Telegram, puis s’éloigne du clavier. Pendant son absence, une IA recherche des serveurs vulnérables, choisit ses failles, lance une campagne contre plus de 460 cibles… et veille à ne pas trop dépenser en calcul pendant qu’elle attaque. On y reviendra en détail, car c’est l’histoire la plus inquiétante de la semaine.

Mais avant cela, il y a un motif commun entre toutes les actualités qui suivent, un glissement en trois étapes qu’il faut garder en tête :

Autrement dit : produire devient presque gratuit, vérifier reste cher, lent et profondément humain, et superviser devient optionnel. Chaque actualité de la semaine illustre l’une de ces trois marches.

🍎 Apple submergé : une faille à 200 000 $ noyée sous les faux rapports IA

Le Financial Times l’a révélé : Apple a limité, sans annonce publique, le nombre de rapports de sécurité qu’un même chercheur peut lui transmettre. La raison ? Son programme croule sous des signalements produits par IA, qui décrivent avec une belle assurance… des vulnérabilités qui n’existent pas.

Le vrai problème n’est pas le volume, c’est le tri : un faux rapport crédible prend autant de temps à examiner qu’un vrai, et chacun doit être vérifié par un humain. Pendant ce temps, les signalements sérieux reculent dans la file d’attente.

💥 La start-up qui en a fait les frais

La start-up italienne Bynario, dont la plateforme adossée à un modèle d’OpenAI avait déjà détecté plus de 50 vulnérabilités dans macOS en trois semaines — dont une chaîne permettant de prendre le contrôle complet d’une machine — en découvre une nouvelle, sérieuse… et ne peut pas la soumettre : son quota est atteint.

🪞 Le miroir paradoxal

Car Apple utilise elle aussi des modèles d’Anthropic et d’OpenAI pour chercher des failles dans son propre code : sa dernière série de correctifs en comptait cinq fois plus que d’habitude.

🛰️ Google Earth : un générateur d’images satellites retiré en moins de 24 h

Le 30 juillet, Google ajoute à Google Earth une fonction (propulsée par son générateur d’images Nano Banana) capable de transformer une image satellite à partir d’une simple consigne écrite. La promesse est séduisante : visualiser Pompéi telle qu’elle était en l’an 79.

Mais l’enquêteur indépendant Henk van Ess teste aussitôt un tout autre usage, relayé notamment par NPR et Futurism : il génère une scène montrant des réfugiés près de la frontière mexicaine, puis une centrale nucléaire fictive en Iran. D’autres utilisateurs enchaînent avec un crash à Amsterdam ou un cratère de bombe à Gaza, et Eliot Higgins, fondateur de Bellingcat, s’amuse d’une statue dorée géante surplombant la Maison-Blanche.

Ce ne sont pas de simples illustrations : ces créations sont ancrées à de véritables coordonnées, dans l’outil même que le public et les journalistes consultent pour vérifier l’apparence d’un lieu.

📸 Le filigrane battu par un téléphone

Google avait prévu une réponse : chaque image intégrait SynthID, son filigrane numérique invisible. Mais celui-ci a été contourné en photographiant simplement l’écran : un test d’Ars Technica l’a confirmé, la vérification SynthID échoue sur une image filmée au smartphone. Il suffisait donc de filmer un moniteur pour faire tomber la protection.

Le 31 juillet, moins de 24 heures après le lancement, Google suspend la fonction afin de « mettre en place des garde-fous plus solides ».

🇪 2 août 2026 : l’AI Act passe au concret

Le 2 août 2026, le règlement européen sur l’IA franchit son étape la plus concrète : les obligations de transparence de l’article 50 deviennent applicables. Trois nouveautés majeures :

(Les obligations sur les systèmes à haut risque, elles, ont été repoussées à 2027-2028.)

🤨 Le timing piquant

Repensez maintenant à Google : l’Europe rend obligatoire le marquage lisible par machine… précisément le mécanisme neutralisé quelques jours plus tôt par une simple photographie d’écran. Sur le principe, la loi vise juste : exiger la traçabilité est nécessaire. Mais elle repose sur une technologie qui n’a pas encore démontré sa résistance dans le monde réel.

🧮 OpenAI Astra : dix problèmes ouverts résolus pour ~2 000 $

Le 1ᵉ août, OpenAI révèle Astra — sans communiqué promotionnel. L’entreprise publie un manuscrit technique de 249 pages, un récit de 62 pages sur la construction des démonstrations, et 10 résultats sur des problèmes ouverts en mathématiques et informatique théorique : géométrie en grande dimension, théorie des groupes, complexité quantique, cryptographie. Aucun de ces problèmes n’avait connu d’avancée majeure depuis au moins dix ans.

🏆 Deux résultats qui font du bruit

Le plus commenté : la construction d’un groupe non sofique, une question posée en 1999 et qui résistait depuis 27 ans. Autre résultat marquant : la réfutation de la conjecture de rigidité formulée vers 1980 par Alain Connes, médaillé Fields — un modèle vient donc de contredire l’un des mathématiciens les plus récompensés de son époque.

Coût total, au tarif public du modèle le plus coûteux d’OpenAI : moins de 2 000 $, soit environ 200 $ par résultat.

✅ La vraie révolution : la preuve téléchargeable

Chaque démonstration est accompagnée d’un certificat en Lean 4, un langage de vérification formelle publié librement sur un dépôt public. Pas besoin de faire confiance à OpenAI : téléchargez le fichier, lancez le vérificateur, et sachez si chaque étape tient logiquement. C’est une autre réponse au problème du marquage vu plus haut : au lieu d’une étiquette qu’on peut arracher, le résultat est livré avec l’outil qui permet de le vérifier ou de le réfuter.

🎯 DeepSeek : 460 cibles attaquées sans supervision humaine

Unit 42, l’équipe de veille de Palo Alto Networks, a documenté la campagne d’un pirate sinophone basé à Zhuhai (Chine), actif sous les pseudonymes knaithe et KnYuan et identifié grâce à son activité publique sur GitHub. Son dispositif repose sur trois briques : DeepSeek pour le raisonnement, le cadre d’agent open source Hermes Agent (accès au terminal, travail sans surveillance), et Telegram pour l’unique instruction de départ.

🤖 La séquence autonome

Le modèle interroge FOFA, un moteur répertoriant les machines exposées sur Internet, et reçoit 25 209 instances potentiellement vulnérables (des serveurs n8n). Il en échantillonne une centaine, en sonde une quarantaine en vérifiant leurs versions, puis en identifie trois réellement exploitables. Ensuite, il lance ses attaques. Le tout en quelques minutes.

🧾 Les résultats, sans exagération

Plusieurs articles ont exagéré les faits, alors précisons : les attaques autonomes n’ont compromis aucun serveur (configurations trop restrictives des cibles). Sur environ 460 cibles au total, les trois compromissions confirmées proviennent d’opérations manuelles : le pirate a notamment exploité une faille de lecture mémoire (Citrix NetScaler) pour exfiltrer des données appartenant à une entité gouvernementale malaisienne.

Seconde correction : non, le pirate ne s’est pas tourné vers un modèle chinois « après le refus des modèles américains ». Le rapport relève un usage marginal de Claude Code (tests de connectivité) et de Qwen Code, ainsi que des traces de Codex (OpenAI) dans des répertoires d’exploitation — sans journaux conservés, leur utilisation réelle ne peut être confirmée.

😅 L’erreur qui a tout révélé

Ironiquement, l’opération n’a été découverte que parce que l’agent a lancé un serveur web depuis le mauvais dossier, exposant publiquement clés d’API, scripts d’exploitation, listes de cibles et journaux.

🧭 Conclusion : le glissement en trois étapes

OpenAI choisit une autre voie en livrant chaque preuve avec l’outil pour la vérifier ou la réfuter ; ailleurs, la machine décide, arbitre et surveille elle-même sa facture. Et vous, qu’est-ce qui vous frappe le plus dans la dernière histoire : qu’un modèle ait mené l’opération seul, ou qu’il ait pris soin d’économiser ses jetons pendant qu’il le faisait ? Dites-le-nous en commentaire 💬

🔍 Transcription audio vérifiée & corrigée

La retranscription automatique de la vidéo contenait plusieurs approximations. Elles ont été corrigées dans cet article après confrontation aux sources (Unit 42, Ars Technica, OpenAI, Commission européenne, presse) :

🎬 Revoir la vidéo & son sommaire cliquable

▶ YouTube

« OpenAI a déchaîné une IA Impossible… DeepSeek passe à l’attaque ! » — AI & Tech Talk. Cliquez sur un chapitre pour ouvrir la vidéo au bon moment :

• 00:00 Introduction
• 00:50 Apple limite les signalements : une vulnérabilité à 200 000 $
• 02:35 Google retire son générateur d’images satellites 24 h après son lancement
• 04:16 L’AI Act impose le marquage des contenus IA
• 05:56 OpenAI dévoile Astra : 10 problèmes mathématiques pour 2 000 $
• 08:02 DeepSeek attaque 460 cibles sans supervision humaine