jeudi 3 mai 2018

Corps naturel, corps artificiel : sujet de culture générale n°6


1) Vous ferez une synthèse concise, objective et ordonnée des documents suivants :

Document 1 :

Vladimir Poutine a au moins une qualité : il parle cash. La semaine dernière, il a dit tout haut ce que la plupart des dirigeants du monde pensent tout bas : « Le pays qui sera leader dans le domaine de l’intelligence artificielle dominera le monde. »
Généralement, l’intelligence artificielle (IA) est évoquée dans le contexte d’évolutions positives, sur la santé ou la régulation de la circulation par exemple, ou négatives comme son impact sur l’emploi ou encore la possibilité – pour l’instant du domaine de la science-fiction – qu’une « IA » développe un jour une « conscience » et s’impose à ses créateurs, les humains.
Mais il est rare qu’on en parle en termes géopolitiques comme vient de le faire très crûment le président russe. Le plus étrange est le contexte de cette sortie : pas une grande conférence stratégique comme celle de Munich où, en 2007, il avait dénoncé l'« unilatéralisme américain » mais une téléconférence suivie par plus d’un million… d’écoliers russes, à l’occasion de la rentrée scolaire !
Faisant écho à cette sortie, Elon Musk, le patron de Tesla et de SpaceX, a aussitôt tweeté : « Ça commence… », en lien avec la déclaration de Vladimir Poutine. Avant de poursuivre : « La compétition pour la supériorité nationale en matière d’IA sera la cause la plus vraisemblable de la troisième guerre mondiale. » Rien que ça.
Et s’il était nécessaire d’en rajouter dans cette surenchère, il suffirait de se tourner vers Yuval Noah Harari, l’historien israélien et auteur à succès, qui se trouvait cette semaine à Paris pour le lancement de l’édition française de son livre fulgurant, « Homo Deus, une brève histoire de l’avenir » (Albin Michel).
Harari prédit que les développements de l’intelligence artificielle et des biotechnologies risquent de produire une couche de « surhommes augmentés » qui vont dominer le monde, et transformer le reste de l’humanité en « classe inutile ». Une démonstration étayée par de nombreux exemples tirés des avancées technologiques et des changements de monde qu’elles impliquent.
Lors d’une présentation de son livre devant un parterre d’invités, dont la commissaire européenne Margrethe Vestager – la femme qui défie les Gafa (Google-Amazon-Facebook-Apple) – Yuval Harari a prédit que ces avancées scientifiques allaient générer des inégalités sans précédent dans l’histoire de l’humanité, à l’intérieur des sociétés, mais aussi entre les nations. Le fossé entre ceux qui maîtrisent ces technologies et ceux qui n’y auront pas accès sera non seulement plus grand qu’entre les pays industriels et les autres au XIXe et XXe siècles mais surtout, il ne pourra plus jamais être comblé, a-t-il dit.

Pierre Haski, « Intelligence artificielle : qui sera maître du monde ? »

Document 2 :

Fin juillet, Elon Musk, créateur de Paypal et patron de SpaceX, Stephen Hawking, astrophysicien, Steve Wozniak, cofondateur d'Apple, et plus de 16.000 chercheurs signaient une lettre ouverte pour mettre en garde contre les dangers des armes autonomes. Dotés d'une intelligence artificielle (IA), les robots pourraient décider eux-mêmes de tirer ou non sur une cible, avec toutes les dérives que cela fait craindre.
Sauf que, pour prendre la décision de nous tuer, les robots n'ont pas forcément besoin d'avoir conscience d'eux-mêmes. Stuart Russel, informaticien et fondateur du centre des systèmes intelligents de l'université de Californie (qui fait également partie des signataires), a répondu aux questions des journalistes de Tech Insider sur le fonctionnement des intelligences artificielles.
Que vous preniez 2001, l'Odyssée de l'espace, Ex Machina, ou encore Blade Runner, les scénarios catastrophes sont toujours les mêmes : des machines intelligentes et dotées d'une conscience finissent par se retourner contre les hommes et à faire beaucoup de dégâts autour d'elles.
Pour commencer, il est très peu probable que des machines se découvrent spontanément, et sans raison, conscientes d'elles-mêmes (comme dans Ex Machina) : lorsqu'un robot est construit, c'est en vue d'accomplir des objectifs précis. Et, même si la machine, mal programmée, se révèle finalement incapable de les accomplir, elle ne va pas se révolter pour éviter d'être éteinte et mener à bien sa mission première.
Quant à volontairement doter un robot d'une conscience, la science n'en est pas encore là : « Nous sommes plus proches de savoir comment construire un vaisseau qui va plus vite que la lumière que de savoir comment le cerveau produit la conscience. »
Selon Stuart Russel, la science a d'abord un long chemin à parcourir pour découvrir comment l'intelligence est générée par l'homme, avant d'aborder la question de la conscience. Un très long chemin :
« D'après ce que j'en sais, aucun chercheur en IA ne travaille sur la conscience. Il doit y avoir des neuroscientifiques qui essaient de la comprendre mais je ne crois pas qu'ils aient fait de réels progrès. »
Est-on pour autant à l'abri des robots tueurs ou d'une intelligence artificielle qui signerait la fin de l'humanité ? Rien n'est moins sûr. Car il ne faut pas confondre conscience et autonomie. Or cette capacité à prendre des décisions commence déjà à être maîtrisée par les machines : « Imaginons que je sois un joueur d'échec qui joue contre un ordinateur, et il gagne. Je peux vous assurer qu'il n'est pas conscient mais ça ne change rien : je perds à chaque fois. Si on extrapole et que l'on compare le monde à un immense jeu d'échec, ça n'a aucune importance que l'on soit battu par des machines conscientes ou non. »

Leila Marchand, « Les robots n’ont pas besoin d’être conscients pour s’en prendre à nous », Slate.fr, 2015

Document 3 :

Skynet, l’entité du film Terminator est l'exemple parfait qui illustre une dérive malveillante des robots. C'est un ordinateur intelligent qui veut détruire la race humaine. Il semble clair que la culture populaire a largement contribué à la peur d’une domination des hommes par les robots.
Dans Robots. Le mythe du Golem et la peur des machines de Brigitte Munier, l’auteure explique que “la crainte occidentale contemporaine de machines intelligentes menaçant de gouverner l’humanité camoufle une angoisse ancienne et croissante, celle de ne plus trouver de sens à la nature et à la vie de l’homme”. À chaque époque correspond un mythe qui permet à la civilisation d’extérioriser ses inquiétudes et ses aspirations. Dans Frankenstein, Mary Shelley développe l’idée véhiculée dans le Golem : la peur que la création se retourne contre son créateur. Paru en 1818 au début de la révolution industrielle, il exprime la peur du pouvoir, du progrès scientifique face à la morale. La machine a pris depuis diverses formes, de Matrix à Robocop, en passant par l'armée des clones de Star Wars.
Ces histoires populaires sont animées par la même question : qu’est ce qui différencie l’homme du robot ? Brigitte Munier explique qu’en Occident « nous avons défini l’homme pendant plus de 25 siècles comme ayant une âme dotée d’une origine transcendante ». L'homme occidental a peur des robots car il peine déjà à trouver sa propre place dans l'univers, et à statuer sur le bien et le mal. La culture japonaise véhicule une vision différente : l'âme est immanente, elle est ici-bas. Cette peur du robot est donc absente : les Japonais perçoivent davantage la machine comme un compagnon et un alter ego que comme une menace. Ce n'est pas un hasard s'ils ont fait d’ « Astro le petit robot » le symbole de l’espoir après la Seconde Guerre mondiale...
Dans les pays anglo-saxons, des associations féministes et des universitaires ont lancé des campagnes médiatiques pour faire interdire préventivement la fabrication des robots sexuels relaye Le Monde. Les « sexbots » perturberaient le développement affectif des adolescents et aggraveraient la tendance de nombreux hommes à "objectiver" les femmes. S’ils prennent l’habitude de coucher à leur guise avec des machines perpétuellement consentantes, lascives et dociles, ils auront tendance à exiger la même attitude de leurs amantes humaines.
On assiste déjà à une forme de développement de ces robots sexuels. Au Japon, les Love Dolls, ces poupées en silicone souple, articulées et aussi réalistes que possible font partie de la culture depuis les années 1980. Des ingénieurs ont monté des ateliers où ils intègrent des systèmes robotiques rudimentaires dans ces love dolls. A ce jour, le résultat est très imparfait - elles parlent d’une voix mécanique, bougent à peine la tête et les bras - mais le progrès ne s'arrête pas.

Mike Agliolo, « Les robots, une chance pour l’homme ? », Capital.fr, 2017

Document 4 :

Stephen Hawking, le brillant physicien et cosmologiste britannique, s’est récemment exprimé sur le capitalisme. Selon lui, l’apocalypse économique ne viendra pas des robots et de la technique, mais de l’avidité des Hommes.
Dans une session exceptionnelle de questions/réponses organisée par le site Reddit.com, Stephen Hawking a eu l’occasion de répondre à certaines interrogations des internautes sur l’état de la société. Une question qui soulève les pires craintes de nombreux citoyens lui a été posée : Nous développons sans cesse des technologies d’automatisation des processus de production, entendez, des robots. Ne va-t-on pas, de ce fait, vers un effondrement de l’économie et une explosion du chômage ? À cette question pertinente, Stephen Hawking répond avec beaucoup de rationalité, mettant le système économique en cause, pas la technologie.
« Si les machines produisent tout ce dont nous avons besoin, le résultat dépendra de la façon dont les richesses sont distribuées. » En effet, le fait même de la complexité technique est le souhait naturel et humain de faciliter une tâche pour la produire avec moins d’effort. Mais en matière d’économie, l’effort est perçu comme un coût pour les détenteurs de capitaux. Ainsi, dans un monde où les richesses s’accumulent, permettant certains investissements dans des technologies nouvelles qui remplacent l’humain, le non-travail (part d’inactivité) semble inévitable à moins d’entrainer une croissance toujours plus forte.
Ainsi, le scientifique estime que l’inégalité économique va monter en flèche avec l’automatisation des emplois dans le cadre où les détenteurs de capitaux refuseraient de partager le fruit de la production de ces machines. « Tout le monde peut jouir d’une vie luxueuse faite de loisirs si la richesse produite par une machine est partagée, ou alors, la plupart des gens peuvent finir misérablement pauvres si les propriétaires de ces machines organisent avec succès leur lobbying contre la redistribution des richesses. » explique-t-il. Mais sa vision de l’avenir est plutôt pessimiste à la vue de l’économie triomphante : « Jusqu’à présent, la tendance semble être à la deuxième option, avec une technologie qui entraine de plus en plus d’inégalités. » Ainsi, les robots trouveront leur place dans l’humanité si ceux qui les créent sont contraints par la collectivité à redistribuer une partie des richesses produites par ces machines.

« Ayez peur du capitalisme, pas des robots », estime Stephen Hawking, Mrmondialisation.org, 2015

2) Écriture personnelle :
Pensez-vous que l'homme sera capable d'éviter les dangers de la robotique ?

Aucun commentaire:

Enregistrer un commentaire