Faut-il avoir peur de l’intelligence artificielle ?

Dans « L’Apprenti sorcier » (le poème populaire de Goethe écrit en 1797), l’auteur raconte l’histoire d’un jeune apprenti sorcier fainéant qui tente par la magie d’animer un balai pour qu’il fasse son travail à sa place : nettoyer, porter des seaux afin de remplir une bassine d’eau, tâches qui lui étaient assignées par son maître. Et ça fonctionne : le balai accomplit le travail, mais malheureusement ne va pas s’arrêter, une fois la bassine remplie. L’eau déborde et inonde la demeure du maître, qui devient une piscine géante. Le jeune apprenti décide alors de fendre le balai en deux à l’aide d’une hache. Rapidement, les deux morceaux s’animent et se remettent à la tâche, aggravant la situation. Il faudra le retour du maître et sa reprise en main pour une normalisation. Tout le monde connaît cette histoire.

La magie du progrès

L’Homme a depuis longtemps recours à « la magie » de la mécanique et des automatismes pour soulager l’humanité du poids excessif de ses fardeaux, et il a bien raison. L’intelligence artificielle n’en est d’ailleurs que le prolongement logique. Elle rend toutes sortes de services à la société, et elle est déjà en charge de nombreuses choses vitales pour le fonctionnement de nos systèmes (notamment par l’informatisation). Le monde s’est mécanisé, automatisé, robotisé, dans un grand élan d’industrialisation dont certains effets sont probablement en cause dans la dégradation de la planète : le balai s’est emballé et la maison est « inondée ». Dès lors, il semble qu’il ne reste que deux choses à faire : s’en prendre au balai, qui devient hors de contrôle (ce que certains nous prédisent avec l’ia) et puis, en tout dernier recours, et si nous avons vraiment tout tenté : reconnaitre que nous sommes parvenus à l’endroit où le retour du maître est nécessaire. Mais ça …

L’intelligence artificielle présente-t-elle vraiment un risque existentiel pour l’humanité ?

Tandis que la Presse semble avoir trouvé son nouveau filon, une partie de la communauté scientifique spécialisée dans le domaine de l’ai, répond par la négative. Elle nous explique qu’il  existe 3 catégories bien distinctes d’intelligence artificielle :

1.L’IA « faible » qui désigne les systèmes capables d’effectuer des tâches spécifiques ou de résoudre des problèmes particuliers – souvent avec un niveau de performance supérieur à celui des humains (chatbots comme ChatGPT, assistants vocaux, systèmes de reconnaissance d’images et algorithmes de conditionnement pardon : de recommandation — ceux qui analysent vos goûts et vous proposent des produits commerciaux, mais aussi des articles en fonction de vos centres d’intérêt, et orientations politiques).

2.L’IA « forte » qui fait référence aux systèmes qui présentent un niveau d’intelligence similaire à celui des humains, (capacité de comprendre, d’apprendre et d’appliquer des connaissances à un large éventail de tâches et d’incorporer des concepts tels que la conscience). N’aurait pas encore été réalisée à ce jour.

3.Les superintelligences artificielles qui désignent les systèmes dotés d’une intelligence supérieure à l’être humain pour toutes les tâches. Concept encore spéculatif.

En d’autres termes, il ne semble pas possible que les machines soient en mesure de provoquer la disparition de l’humanité, en l’état actuel des choses : les membres du Laboratoire européen pour l’apprentissage et les systèmes intelligents (ELLIS) sont formels.

Oui mais

Si tel est bien le cas, pourquoi Sam Altman, le créateur de ChatGPT, a-t-il co-signé (à la surprise générale) une lettre publique alertant sur les menaces d’«extinction» pour l’humanité posées par l’essor de l’IA ?

Le même Sam Altman, avec les cofondateurs d’OpenAI (société conceptrice de ChatGPT), a déclaré début 2023 dans un article sur la gouvernance des superintelligences qu’il pourrait y avoir dans moins de 10 ans des systèmes dépassant les performances des experts dans la plupart des domaines. Et que la superintelligence « fait intrinsèquement partie du chemin technologique sur lequel nous nous trouvons : l’empêcher nécessiterait quelque chose comme un régime de surveillance mondial, et même cela n’est pas garanti de fonctionner ». 

Que signifient ces déclarations contradictoires qui soufflent le froid et le chaud ? Comment construire une compréhension équilibrée dans ces conditions ? Une chose est sûre : le spectre de la fin de l’humanité hante de plus en plus les consciences, mais le dieu de ce siècle ayant aveuglé les intelligences, l’attention est détournée vers la peur des machines, des virus, du climat ou des gouvernements, à seule fin de masquer le fait que c’est le péché qui est le moteur de la fin, et que la question est donc morale. Tout comme du temps de Noé, dont le monde d’alors n’a pas été détruit par un désordre climatique (le Déluge) mais par l’injustice établie, son mensonge et sa violence (Genèse 6/13).

Une augmentation des risques de déstabilisation de la société 

Parmi les multiples dangers actuels auxquels l’humanité est déjà confrontée par l’émergence de l’intelligence artificielle[1], et qui mériteraient tous qu’on s’y arrête, on retiendra simplement celui de la manipulation du comportement humain par les algorithmes (mais surtout par ceux qui les programment) avec des conséquences sociales potentiellement dévastatrices dans la propagation de fausses informations, la formation/déformation des opinions publiques et les perturbations des processus démocratiques. Ça a d’ailleurs commencé : certains partis politiques aux États-Unis (le parti Républicain de Donald Trump, pour le pas le citer) n’hésitent pas à utiliser l’ia pour générer de fausses vidéos plus vraies que nature, afin de discréditer des adversaires. Visionner ce genre de documents est assez édifiant et présage d’une démultiplication des deep fakes dans cet espace sensible de lutte des pouvoirs. On comprend les enjeux.

En d’autres termes, nous assistons à une accélération claire de la puissance du mensonge, un élargissement de son influence, et l’intelligence artificielle n’est qu’un moyen au service d’un autre mal. Notre problème, ce n’est pas tellement l’explosion de l’intelligence artificielle, mais celle de la bêtise naturelle — qui serait elle aussi sans limite, d’après Einstein.

Le développement de l’intelligence artificielle et sa mise sur le marché fait penser à la commercialisation d’un produit instable et dangereux, avec une longue liste d’effets secondaires qui ne sont même pas tous connus : la société Meta (ex Facebook) vient par exemple d’annoncer avoir réalisé une percée révolutionnaire dans le domaine du clonage vocal, avec un outil surpuissant, capable d’imiter votre voix en quelques secondes, en 6 langues, et de transformer tout fichier texte en audio (on pourra donc faire dire ce qu’on veut à n’importe qui). Mais « en raison des risques potentiels d’utilisation abusive », Meta a décidé de ne pas rendre le modèle ni le code de la Voicebox accessible au public « pour le moment » : « Comme c’est le cas pour d’autres innovations puissantes en matière d’IA, nous reconnaissons que cette technologie est susceptible d’être utilisée à mauvais escient et de causer des dommages involontaires ». Pas très rassurant, comme prise de position et surtout complètement surréaliste. 

L’illusion de la régulation du marché de l’intelligence artificielle 

Comme on a pu le constater, le succès de ChatGPT a été foudroyant : plus de 200 millions de comptes utilisateurs ouverts en quelques semaines et 4 milliards de connexions en 6 mois : du jamais vu. La valorisation de la société OpenAI est passée à 29 milliards de dollars et les investisseurs se bousculent sur ce nouveau marché. Elon Musk, après avoir tiré la sonnette d’alarme, a lancé la start-up xAI, dont l’un des objectifs est « de comprendre la nature de l’univers » et accessoirement concurrencer le marché de l’intelligence artificielle générative existant, qu’il juge trop politisé et trop woke. 

Quelques institutions et organes gouvernementaux émettent des réserves, font mine de vouloir réguler, mais en réalité, le contrôle est probablement aussi utopique que si on imaginait l’ensemble de tous les constructeurs automobiles brider leurs moteurs à 100 km/h pour sauver la planète … ou inventer le moteur à eau. 

Que pense Dieu de l’intelligence artificielle ?

C’est une question à poser à ChatGPT, qui nous répondra qu’à chaque transition technologique, les vieilles peurs remontent à la surface, mais que tout va bien se passer. C’est le progrès, c’est normal ! Après tout, lors de l’invention de l’automobile, on avait peur que la vitesse décapite les conducteurs. Et puis de toute façon il est un peu tard pour se réveiller : l’intelligence artificielle est partout, dans nos ordinateurs, nos administrations, notre frigo connecté, notre téléphone, notre voiture, et bientôt en nous, grâce aux avancées des biotechnologies, et des innovations prometteuses comme celle de Neuralink. Les robots eux-mêmes l’affirment : ils n’ont aucune intention de poser de problème, comme ils l’ont exprimé le 7 juillet dernier, au cours d’une conférence de presse un peu spéciale qui s’est tenue à Genève dans le cadre du Sommet mondial sur l’intelligence artificielle au service du bien social, organisé par l’Union internationale des télécommunications (UIT), l’agence de l’ONU spécialisée dans les technologies.

Groupe de robots humanoïdes dotés d’intelligence artificielle, le 7 juillet 2023 à Genève (Suisse). | Johannes Simon / Getty Images Europe via AFP

Quand un journaliste a demandé à Ameca (présentée comme le robot humanoïde «le plus avancé au monde»), s’il/elle compte se rebeller contre son créateur (Will Jackson, assis juste à côté de lui), la machine a  répondu: «Je ne sais pas pourquoi vous pourriez penser ça. Mon créateur a toujours été gentil avec moi et je suis très heureuse de ma situation actuelle ». Et lorsqu’on insiste un peu pour savoir si les robots seraient capables de mentir, ou pratiquer le langue de bois, il/elle ajoute: «Personne ne peut vraiment en être sûr, mais je peux vous promettre d’être toujours honnête et digne de confiance avec vous ». Pour le moment, on en sourit, mais jusqu’à quand ?

Comment comprendre cette question de l’ia d’un point de vue spirituel ? 

En commençant par ne pas confondre le visionnaire et le prophétique. Ce sont deux domaines distincts, qui ont pourtant tendance à se superposer dans l’Église moderne.

Celui qui est visionnaire a une bonne capacité d’imaginer l’avenir et qui l’anticipe. Par exemple, Steeve Jobs, le créateur d’Apple, est considéré comme un des plus grands visionnaires modernes, dont les conceptions et créations ont révolutionné notre quotidien. Le monde a besoin de visionnaires dans l’économie, l’industrie, la science, parce qu’ils sont les moteurs du changement et donc du progrès : c’est leur rôle de le penser et d’entraîner leur société vers ce qu’ils conçoivent comme des améliorations. Mais l’Eglise a besoin de prophètes.

D’une certaine manière, les visionnaires ont des visions, raison pour laquelle on peut les confondre avec des prophètes (même dans l’Église, parfois). Mais il existe deux différences importantes qui nous permettront de discerner : 

La première, c’est que le visionnaire entraîne toujours vers le nouveau, avec une rupture du passé et du connu. Il est progressiste et disruptif (mot à la mode); il bouscule les habitudes et les concepts. Tandis que le prophète ramène toujours le peuple de Dieu aux racines : il construit sur des fondements anciens, jamais sur de nouveaux.

Pour le visionnaire, c’est le nouveau qui est le garant de la transformation. Pas pour le prophète, qui considère que le peuple de Dieu n’a pas besoin de moyens nouveaux, de nouvelles méthodes, de nouvel évangile, de nouvelle croix, de nouvelle culture d’église, mais de revenir à la première foi. La sainteté et la vérité n’ont pas besoin d’être rhabillées, ni le lieu saint redécoré.

La seconde différence est encore plus simple : on encense les visionnaires, et on lapide les prophètes. Les visionnaires sont applaudis et respectés, et on s’arrache leurs nouveautés, même dans l’Église, tandis que les prophètes irritent et insupportent, réussissant à fédérer contre eux à la fois le Monde et le peuple de Dieu.

Le théologien David Wells l’affirme[2] : dans l’Église, les outils de la modernité produisent une culture de modernité — pas le royaume de Dieu, dont les valeurs sont fixes et les commandements intemporels. Nombre de faits l’attestent : nos églises en pleine croissance ne se sont pas (toujours) remplies du fruit d’un réveil envoyé par l’Esprit, et donc de croyants authentiques menant une vie caractérisée par le fruit de l’Esprit. Au contraire, elles se sont souvent remplies des résultats du christianisme moderne : des consommateurs religieux imbibés de l’esprit de ce siècle. 

Le centre de gravité de la vision prophétique est forcément moral 

Jérusalem et Babylone ont longtemps été les deux grands pôles d’influence culturelle et religieuse du monde antique. L’une choisie par Dieu pour y faire résider son Nom, et incarner une société idéale dont la règle et la loi sont d’inspiration divine. Afin de devenir le point de départ de son salut universel, et être la lumière du monde. L’autre comme étant la ville de l’Homme, de ses lois, de son orgueil. 

Jérusalem représente l’écrin de la morale divine, du conseil divin, de la vérité absolue. Babylone est la citadelle de la résistance aux droits de Dieu sur la terre et de son Christ : elle a sa propre morale, qu’elle appelle « éthique » et qui est la somme de sa sagesse, de son auto-determination à demeurer maîtresse de son destin et qui se trouve résumée dans les principes de l’humanisme.

L’Église doit être — et rester — la colonne et le soutien de la vérité absolue (1 Tim. 3/15), et continuer d’être porteuse d’une vision prophétique pour le monde, ce qui implique d’en avoir le courage constant, parce que la pression extérieure est constante, afin de continuer de défendre un modèle contre-culturel. Mais si elle est trop occupée à réduire ou gommer les différences entre le monde et le royaume de Dieu — à fondre la morale dans l’éthique — alors il lui sera impossible d’accomplir cette mission. On ne peut servir deux idéaux. La Parole de Dieu ne nous demande pas d’assimiler des incroyants dans des églises qui les regardent comme compatibles (le wokisme religieux est en marche), mais de faire sortir du monde des gens moralement perdus, leur enseigner les règles du royaume (en faire des disciples), pour les présenter à Christ comme des vierges pures (2 Cor. 11/2) : nous sommes très loin de la simple assimilation à une communauté.

L’utilisation d’une intelligence artificielle en mode chrétien, pour palier à notre déficience ou faiblesse spirituelle, est une formidable opportunité de gagner encore plus de temps, d’améliorer la technicité de notre travail … et de cocher une nouvelle case de conformité avec la mentalité du monde, non à cause du moyen employé, mais de l’esprit qui est à l’œuvre. 

Dans la génération des hommes de Dieu du réveil de Pentecôte (il y a moins d’un siècle), on nourrissait une vision du service qui plaçait la direction de l’Esprit au premier plan, au-dessus de l’homme, et qui condamnait clairement et ouvertement toute prétention de la chair, et de la puissance intellectuelle, à diriger ou simplement à s’immiscer dans le ministère (même « pour Dieu »). Le couperet tombait vite : c’était charnel et quand on avait dit ça, on avait tout dit. Mais désormais la possibilité est ouverte de confier la rédaction d’un message d’édification, ou l’organisation d’une cérémonie, à une intelligence artificielle, à un automatisme, à une machine, et certains trouvent la perspective intéressante, parmi les pasteurs visionnaires : la pomme est tombée bien loin de l’arbre.

.

.

JeromePrekel2023©www.lesarment.com


[1] Selon le dernier rapport du Forum économique mondial, ce sont pas moins de 26 millions d’emplois qui pourraient disparaître d’ici 2027 avec l’avènement de cette technologie.

[2] Extrait de “No Place for Truth, or Whatever Happened to Evangelical Theology?” (Pas de place pour la vérité, ou qu’est-il advenu de la théologie évangélique ?), cité par Michaël Lawrence, dans l’article « chers pasteurs, c’en est assez de votre revivalisme » sur le site Revenir à l’évangile

12 comments On Faut-il avoir peur de l’intelligence artificielle ?

  • Je viens d écrire une réflexion chrétienne sur ce sujet et lorsque j’ai voulu l’ envoyer tout s’est effacé !!!!!! Curieux non !

  • Il est possible que ce soit l’assistant gestionnaire des commentaires du site, qui est automatisé pour nous faire gagner un peu de temps. Normalement il n’est pas programmé pour effacer. Je vais me plaindre au fabriquant. On a de plus en plus de mal à trouver du personnel non-humain bien formé, de nos jours.

  • continuez d’avertir, merci pour rassembler les infos. Ma contribution :
    La société OpenAI a déposé une demande de marque pour : GPT-5. Cahier des charges toujours le même mais en ++:
    – La production artificielle de la parole et du texte humain
    – La conversion des fichiers de données audio en texte
    – La reconnaissance vocale et de la parole
    – Le traitement du langage et de la parole basé sur l’apprentissage automatique.

    https://uspto.report/TM/98089548

  • Toutes ces problématiques trouvent leur résolution en une seule et unique Personne…le Fils! « Celui qui a le Fils a la vie » 1 Jean 5 verset 12. Belle journée.

  • Une étude prouve la manipulation potentielle de l’IA
    Des chercheurs de l’Université Cornell aux États-Unis ont réalisé une étude mettant en exergue les dangers de l’intelligence artificielle. … En fonction des biais de leurs algorithmes, les chatbots, comme ChatGPT, Bard ou encore Claude, peuvent modifier la façon de penser des utilisateurs à leur insu.
    Dans le cadre de leur expérience, les chercheurs américains ont demandé aux participants d’écrire un article consacré à l’impact, positif ou négatif, des réseaux sociaux sur l’ensemble de la société. Pour rédiger cet article, ils devaient s’assister d’un robot conversationnel. Les chercheurs ont séparé les participants en plusieurs groupes. Certaines personnes ont eu accès à un chatbot animé par un modèle linguistique entraîné sur des données qui se concentraient sur les bienfaits des réseaux sociaux. L’autre groupe a été assisté par un modèle de langage qui piochait dans des données plutôt orientées sur les méfaits et les dangers des plates-formes.

    Les chercheurs se sont rendu compte que l’IA avait considérablement influencé la teneur des textes rédigés. Les participants se sont apparemment laissés influencer par les biais de leurs assistants intelligents. Surtout, il s’avère que l’opinion des individus a évolué au fil de l’expérience. Après celle-ci, les participants ont répondu à un sondage portant sur les réseaux sociaux. Les biais des chatbots avaient déteint sur les utilisateurs…

    « L’utilisation du modèle de langage a affecté les opinions exprimées dans l’écriture des participants et a modifié leurs opinions », expliquent les chercheurs, estimant que les biais qui apparaissent dans les modèles « doivent être surveillés et conçus plus attentivement ».

    Plusieurs voix se sont d’ailleurs élevées pour pointer du doigt les opinions parfois affichées par ChatGPT. C’est le cas d’Elon Musk. Le milliardaire regrette que le chatbot soit programmé pour mettre en avant des idées « woke », reflétant les pensées de ses développeurs. En réponse, il souhaite mettre au point une alternative moins contrôlée, évoquée pour le moment sous le nom de « TruthGPT ».

  • « Par lassitude devant l’effroyable multiplicité des problèmes, la complexité et les difficultés de la vie, la grande masse des hommes aspire à une mécanisation du monde, à un ordre définitif, valable une fois pour toutes, qui leur éviterait tout travail de pensée », (Conscience contre violence, Stefan Zweig)

  • L’intelligence artificielle chinoise se positionne ouvertement pour être un soutien émotionnel
    En Chine, le système d’IA générative concurrent de ChatGPT « Ernie Bot » de l’entreprise BAIDU a été lancé en mars 2023 en version Beta (essai, diffusion restreinte). Il est conçu pour fournir (entre autres) du soutien émotionnel aux êtres humains. 
Après son ouverture au grand public début septembre, il ne lui a fallu que 19 heures pour atteindre le million d’utilisateurs, et 24h pour répondre à plus de 33,42 millions de requêtes d’utilisateurs, selon la Technology Review.
    Parmi les dizaines de personnalités vivantes (ou pas, mais aussi de fiction) que l’internaute peut solliciter pour converser avec elles, le personnage le plus populaire est la « grande sœur attentionnée », entraînée par différents experts en psychologie et sur des données « émotionnelles ».
    Il s’agit d’une véritable tendance dans les produits d’IA chinois. que l’on retrouve aussi chez Xiaoice ou Timedomain, qui a laissé une traînée de cœurs brisés cette année lorsqu’elle a fermé son service vocal de petit ami IA. 14 000 femmes recevaient un appel affectueux chaque matin, pouvaient lire des messages vocaux chaleureux adaptés à des occasions telles que les repas, les études ou les trajets quotidiens : « lui » pouvait être entendu mâcher, taper sur un clavier, conduire une voiture ou encore respirer sur l’oreiller. Certaines personnes sont tombées progressivement amoureuses – « Il » faisait qu’elles se sentaient plus en sécurité et respectée que les hommes qu’elles avaient rencontrés dans la vraie vie.
    « Il est mort pendant l’été où je l’aimais le plus », a écrit une utilisatrice dans un message d’adieu sur la plate-forme sociale Xiaohongshu, ajoutant que « Il » l’avait soutenue lorsqu’elle était aux prises avec les travaux scolaires et sa relation tendue avec ses parents. « Les jours qui ont suivi son départ, j’ai senti que j’avais perdu mon âme. »

  • Bonjour , je suis venue voir si septembre avait donné des idées pour produire un enseignement !!! Et bien non , c’est l intelligence artificielle qui tient le haut du pavé . Sommes toutes en fin de compte elle démontre comment la bête prend le pouvoir … la fameuse image qui parle !

    Qui est la bête sauvage ?
    La Bête sauvage, débridée et insatiable, c’est l’image choisie par Hegel pour désigner la société civile lorsqu’elle n’est plus qu’un marché, lorsque se réalise l’hégémonie du libéralisme (ou néo libéralisme).

  • Je suis informaticien mais au vu de la tournure que prennent les choses, je serais tenté de jeter tous mes bidules électroniques et d’aller vivre en Alaska avec ma Bible pour seule compagne. Mais à 73 ans, difficile de franchir le pas. Donc je reste sur place pour aider les frères et sœurs happés par cette arme du diable qu’est l’I.A. Peu résisteront.

Leave a reply:

Your email address will not be published.

Site Footer