Quand le monstre numérique devient hors de contrôle, un documentaire à découvrir sur Arte – L'Humanité

Selon le réalisateur israélien Shimon Dotan, toutes les inventions, même les plus formidables, ont un revers, que n’ont parfois pas anticipé leurs concepteurs. Et les nouveaux outils informatiques ne font pas exception à la règle. D’où la nécessité d’ « évaluer le contrôle et le risque » . Parce que l’histoire l’a démontré : les meilleures inventions du monde peuvent provoquer des catastrophes terribles pour l’humanité, pour peu qu’elles soient mal utilisées. Et la puissance de l’intelligence artificielle aujourd’hui, sans contrôle, pourrait provoquer, explique le documentaire, la fin de cette même humanité ou un état de guerre permanent.

Ce « monstre numérique » peut entraîner un contrôle social très fort

Et le film de décliner les progrès de l’informatique depuis la Seconde Guerre mondiale et la façon dont Internet a modifié les rapports sociaux depuis trente ans : d’un côté, de grandes firmes, qui ont eu une bonne idée de départ et sont devenues leader sur le marché (Google, Amazon, Facebook), tout en engrangeant des bénéfices records et un pouvoir démesuré. De l’autre, des inégalités sociales effarantes, avec un taux de pauvreté qui avoisine celui de la population mondiale avant la Révolution française, selon l’auteur. Et par-dessus, avec le ciblage effectué par les plateformes, des « recommandations » de contenus qui restreignent le champ de connaissances des individus et donnent aux GAFA un contrôle presque total sur leurs existences.

Ce contrôle induit, explique Shimon Dotan, une volonté de coercition. Ce « monstre numérique » peut entraîner un contrôle social très fort, comme c’est déjà le cas en Chine. Et les recherches en cours sur l’intelligence numérique auront des conséquences, fatalement, sur l’ordre social, mais aussi sur les formes d’art… et même sur la paix : entre de nouvelles armes très technologiques, le piratage, et la communication, qui peut être une arme de destruction massive, comme le montre le conflit israélo-palestinien, « nous sommes déjà, dénonce l’auteur, d’un certain point de vue dans une guerre mondiale. Nous n’attendons pas l’explosion de ce conflit mais son escalade ».

Très alarmiste, très documenté, très argumenté par des universitaires dans tous les domaines (informatique, histoire, philosophie), ce film a aussi le mérite d’interroger sur ce qui différencie l’intelligence humaine de l’intelligence artificielle, et de mettre les données des problèmes entre les mains de chaque citoyen.