Nos dossiers

Les "vrais" dangers d'une I.A. sans éthique

Les "vrais" dangers d'une I.A. sans éthique

Crédits (photographie) | © 2023 - Gobal (sous licence). A.I. (illustration).

Les "vrais" dangers d'une I.A. sans éthique

→ Lire la version anglaise sur Theethicalweb.com
→ Contenu éditorial protégé (INPI France)

Voilà ! Nous y sommes. Les I.A. pointent le bout de leur nez. Le débat peut enfin commencer car leur réalité est désormais préhensible. Il faudra donc refuser le simplisme, tout patiemment décortiquer en commençant par les phantasmes des uns et des autres, les craintes et les espoirs... de tous.

D'emblée, attardons-nous sur une première liste de dangers crédibles ou supposés, comme tout d'abord :

- Un secteur tertiaire ravagé dans les prochaines années
puis, pour finir, l’évacuation finale de l'homme de l'équation de la production (tous domaines confondus). Pris autrement, la machine remplacerait l'humain faisant de lui un esclave inutile et donc engendrerait l'établissement d'une race supérieure ultra minoritaire, conceptrice de l’I.A., à l'origine ainsi de l'inféodation finale du monde. Échec et mat !
- L'avènement d'une fonction publique unipolaire et subjective.
L'avenir figé ou comment l'art du prédictif algorithmé permettrait d'envisager tous les types de scenarii possibles, rendant toute action, toute initiative inutile voire futile, en géopolitique, en politique, tout comme dans les arts… pour commencer. Tous les aspects de la vie en seraient en réalité, affectés. Son corollaire ? La contrefaçon classique déjà en cours par l'exploitation du big data, qui ralentit voire entrave l'élan créatif en remettant notamment en cause tous les droits en matière de propriété intellectuelle et par extension, la propriété industrielle. Puis, la contrefaçon par anticipation, et ce dans tous les domaines de la production de l’esprit. Prenons l'exemple d'un style artistique. L'œuvre appartient à celui qui la conçoit, mais le style ? Vous êtes propriétaire d'une œuvre découlant d'une idée, non de l'idée elle-même... à priori. Si une I.A. est capable par déduction et extrapolation algorithmique, d'inventer un nombre incalculable de styles, tout créatif quelle que soit sa bonne foi, sera accusé d'avoir plagié le style et dès lors, son œuvre perdra son originalité... et donc de sa valeur. Le style de Picasso est reconnaissable entre tous et pourtant, ce sont ces œuvres qui légalement le définissent. Imaginez maintenant que quelqu'un par le truchement de l'I.A. crée une œuvre en indiquant simplement au processus d’exécution quelques occurrences (mots clés), renvoyant à des éléments graphiques standards pré-intégrés... puis en appliquant un style prédéfini par cette même I.A., nécessairement emprunté aux hommes (car une machine ne crée rien par elle-même). Les possibilités illimitées et résultats édifiants existent déjà, nous le savons… et pourtant. Certains s’en contenteront, même si la même démarche peut être reproductible de façon quasi illimitée. Cette œuvre n’aurait ainsi, finalement, aucune valeur sur les marchés de l’art, car ce qui donne du sens à une œuvre c’est sa rareté, voir son caractère unique… et pourtant !
- La déréalisation ou réalité subversive. Le deep fake en est le premier exemple. La désinformation, l'art de la manipulation existent depuis toujours. Mais l'industrie du fake a atteint un tel niveau de perfection qu'elle en deviendrait potentiellement et immédiatement léthale, tout du moins socialement (les chantages à la deep fake deviendraient permanents et les services de la justice seraient submergés, incapables de faire face). Mais plus que tout, plus rien ne serait crédible. Le doute deviendrait pour toujours, une arme de domination massive.
- Les piratages systémiques (exogènes et endogènes) déjà connus, prendraient désormais des proportions apocalyptiques. Tous les secteurs de la santé, de l’énergie, du social et de l'économie seraient touchés (prenons comme exemple, la distorsion des cours sur les marchés financiers). 
- Une manipulation indétectable de tous les biais cognitifs (commerciaux, sociaux et culturels).
- La disparition progressive de l'esprit critique et la diminution des qualités et aptitudes intellectuelles du plus grand nombre, anéantissant des siècles de progrès social et civilisationnel.
- La virtualisation paroxystique de la responsabilité, déjà en cours, grâce à une opacité de facto (du fait de la complexité des technologies concernées et imbriquées) ou savamment maintenue, voire épaissie. Pour faire simple, si vous n'avez pas le niveau des programmeurs/Développeurs ayant conçu l'I.A. et de plus, sans pouvoir accéder aux codes sources, vous ne pouvez rien prouver, vous ne pouvez que subir.
- L'assassinat ciblé sur commande dit remote killing...
- La domination de l'homme par la machine, enfin consciente d'elle-même, tout du moins conçue de telle façon à ce qu'elle le croit. L'humain serait alors perçu comme une menace et éliminé.
- Le bug systémique en cascade (effet domino), ou comment une erreur majeure de l'I.A. entraînerait des défaillances rapides aux conséquences incalculables.
- L'accélération tactique des prises de décision secondées par l'I.A., avec des marges d'erreur d'appréciation impossibles à concevoir.
- Le chaos juridique, législatif, institutionnel et constitutionnel.
- L'émergence progressive d'oasis ultra-protégées (le retour de nouveaux châteaux-forts en somme...).
- L'amoindrissement de la sérendipité et de la complémentarité.
- Et pour finir, l’I.A. au service des militaires. Ne nous y trompons pas, c’est déjà largement le cas, les drones tueurs n’étant qu’un exemple parmi d’autres.

Ce n’est qu’une toute première liste, qui ressemble fort à ce que l'époque médiévale avait à offrir dans sa période la plus sombre. À ce stade, l’enjeu n’est pas de savoir si l’I.A. est un danger en elle-même, mais bien à qui appartiendront les mains dans lesquelles elle tombera.

En fonction de la rapidité et de l’intensité de son déploiement, les réactions innombrables et la plupart imprévisibles, risquent de littéralement submerger toutes les instances politiques de cette planète, en autant de temps qu'il ne faut pour le dire.

Personne n'est en réalité prêt...

Les premières conséquences et non des moindres, consisteraient potentiellement en :

  • Un chômage systémique d'une ampleur jamais vue. Le principe d'un revenu universel étant inapplicable en l'état actuel des choses, tout du moins pour les 20 ou 50 prochaines années, ce serait donc une course de vitesse que le la majorité serait assurée de perdre. Or le développement de l'I.A. est déjà passée à la vitesse supérieure.
  • De nouveaux types de processus révolutionnaires violents, incluant une contre-révolution numérique.
  • Une résurgence ou une amplification du fondamentalisme religieux. Dieu aurait donc créé l’homme afin qu’il crée l’Internet, engendrant ainsi l’I.A. pour que cette dernière puisse finalement tuer l’homme !?
  • La mise au ban et la stigmatisation des élites du numérique.
  • Une aggravation de la santé mentale de l’immense majorité des citoyennes et citoyens de ce monde. Une société dans laquelle l’Humanité n’aurait plus sa place, ne voudrait tout simplement plus rien dire.

Quand bien même ces quelques spéculations pourraient nous tétaniser, il convient de relativiser sans pour autant baisser la garde. Comme toute révolution technologique, les craintes suscitées sont légion. Certaines seront inévitablement confortées, d’autres seront démenties dans les faits.

Reprenons chacune de ces menaces avérées et tentons de clarifier les problématiques qu'elles supposent.

Suite réservée aux abonné(e)s / Abonnez-vous, c'est gratuit...

Les commentaires que vous nous laissez sont systématiquement soumis à une modération rigoureuse. Les incivilités et calomnies, les menaces, les intimidations de toutes sortes, plus globalement toutes les violences verbales gratuites, ou bien la diffusion d’informations non vérifiées… ne sont pas tolérées. Nous nous réservons en outre le droit de ne publier que les commentaires qui font effectivement avancer le débat et permettent une meilleure compréhension du sujet traité par l'article présenté sur cette page (ainsi que toutes ses ramifications) et ce, quelle qu’en soit la teneur globale.

Soyons

éthiques!

Soyons

éthiques!

logo

Structure légale basée à
Nice - FRANCE / Montréal - CANADA
Uniquement sur RDV...
© 2023 - Tous droits réservés.
ISSN Demande d'enregistrement en cours...

Suivez-nous sur