Intelligence artificielle au service de qui?

Firefox, mon navigateur libre et respectueux de la vis privée favori évolue encore.

Il avait mis en place un outil pour aider les gens qui font des sites internet à situer la qualité de leur site dans le domaine du référencement.
Ils développent maintenant un nouvel outil pour ça : la version 2 sera basée sur de l’intelligence artificielle, c’est-à-dire qu’il « sera alimenté par un modèle avancé, appris par machine. »
Des humains étudieront ainsi ce que la machine a appris toute seule, et utiliseront leur intelligence humaine pour produire des sites internets, qui seront ensuite analysés par l’intelligence de la machine qui apprend toute seule. Certains humains continueront à adapter leur manière de communiquer par site internet à la façon dont la machine qui apprend toute seule traitera leur travail.

Au moment où j’écris ces lignes, on ne sait pas encore qui finira au service de qui dans ces changements …

Les persones qui visitent les sites internet en question se verront étudiés, objets des ces intelligences ; pas vraiment sujets dignes de diriger leur propre intelligence. Et puis, quand je dis « se verront étudiés » C’est encore très optimiste, il y a fort à parier qu’ils ne verront rien du tout. Ils seront étudiés, c’est tout.

  • Ah, tu te réveilles toi !

Il avait mis en place un outil pour aider les gens qui font des sites internet à situer la qualité de leur site dans le domaine du référencement.

Quel est le nom de cet outil, aurais-tu un URL vers l’outil svp?

Voici de quoi je parle :

J’ai grandi au sile précédent, je peux même dire au millénaire précédent. Je trouve qu’il y a quelque-chose d’effrayant à mettre nos intelligences humaines en aval, en dépendance d’intelligeances artificielles. Ces dernières se nourrissent ce qui nous sommes et de ce que nous faisons de notre liberté pour apprendre toutes seules de, et sur nous. L’humain n’est plus sujet de l’intelligence, responsable de ce qu’il en fait, mais objet de l’intelligence, c’est sur lui (elle) que l’intelligence s’applique.
Qu’en pensent celles et ceux qui travaillent à développer ou qui utilisent cette technologie ?

Un modèle d’intelligence artificielle c’est une fonction qui est le « meilleur effort » d’écrire le meilleur ensemble de « if/then/else » à ta place en se basant sur des exemples de ce qui a été fait par le passé.

Le résultat est très similaire à ce qui aurait été fait par un humain, sauf que c’est infiniment plus rapide à développer et à tester. Le hic est que la fonction résultante peut parfois être contre-intuitive et difficile à expliquer.

@xavier, est-ce que la compagnie moz.com est lié avec Mozilla?

Moz semble être une compagnie visant l’optimisation pour les moteurs de recherche ( SEO pour Search Engine Optimization en anglais).

@PierreV Je ne sais pas trop. Il me semble avoir vu l’annonce en lisant des communications de Mozilla (genre nouveautés de Firefox) ; alors je suppose que c’est lié.

@francois.pelletier Si je comprends bien ta réponse, l’intelligence artificielle n’est qu’un moyen pratique pour faciliter le travail du programmeur.
Cela ne répond pas vraiment à mes préoccupations, en l’occurrence plus citoyennes que technophiles.
Déjà, je suis frustré quand je m’adresse à une personne employée dans un service (public ou privé) qui utilise un ordinateur pour interagir avec moi. Un exemple (réel) : je veux ouvrir un compte dans une institution financière. On me rappelle une ancienne adresse d’il y a 10 ans quand j’avais ébauché la même démarche ! Puis on me pose d’autres questions dont je n’arrive pas à croire qu’elles sont légalement obligatoires … Je réponds que je ne veux donner que les informations absolument nécessaires… Mon interlocuteur n’est pas en mesure de répondre à mon objection, il a un formulaire devant lui et il ne peut continuer sans fournir une réponse à cette vilaine question.
En fait la personne n’était pas un interlocuteur, elle n’était que l’interface subordonnée à un système informatique. Quand je dis « subordonné » j’utilise le terme juridique exact qui lie tout salarié à son employeur.
Déjà nous rencontrons des humains qui sont réduits à leur fonction d’interface informatique sans capacité de jugement personnel, je trouve ça terrible !
Avec l’IA, c’est une étape de plus que l’on franchit : les conditions qui définissent nos interactions avec le système informatique (les boucles « if/then/else ») ne sont plus écrites par des humains, mais par des itérations informatiques dont on ne peut rendre compte de la logique (contre-intuitive et difficile à expliquer).
Et puis, les humains, réduits à leur fonction d’interfaces ou même responsables de sites internets, se soumettent de plus en plus à ces systèmes informatiques pour en obtenir les récompenses nécessaires à leur survie, une feuille de paie ou un bon référencement de leur travail.

J’aimerais qu’un groupe comme le nôtre, à la fois motivé par l’informatique et par la liberté, participe à un débat que je crois nécessaire sur ces questions.

2 J'aimes

En fait, ces systèmes informatiques dont tu fais références, avec des formulaires, sont plutôt à l’opposé de cette « intelligence artificielle », car ce sont les mêmes formulaires qui existaient auparavant sous forme papier. Les banques c’est les mêmes systèmes depuis les années 60, ils ont seulement mis à jour le matériel un peu. La personne au téléphone a une formation d’une journée maximum sur le système en question et joue essentiellement une pièce de théâtre dont l’objectif est soit de répondre exactement à une question spécifiée dans leur guide ou te faire chier pour que tu abandonnes l’appel.

Là où on va parler de modèles, c’est plutôt dans le calcul d’une prime d’assurance, le montant autorisé sur ta carte de crédit, … Bref ce qui se faisait auparavant avec un gros catalogue avec toutes les combinaisons se fait maintenant avec un bout de code qui s’ajuste avec les nouvelles informations qu’on lui donne.
C’est un artéfact de technologie, après ça ce que tu en fais, c’est là que tu entres dans les considération éthiques.

Mais cet usage de Mozilla ne me semble pas préoccupant du tout, ils prennent des caractéristiques de ton site et calculent s’il va bien être positionné dans un moteur de recherche. C’est plus simple et plus précis que se fier à un de ces « gourous » des moteurs de recherche.

J’aime bien le lapsus: « vis privée », qui m’apparaît comme une métaphore de l’intelligence dite artificielle, une technologie extrêmement conservatrice, utilisée principalement pour renforcer ce qui fait déjà le profit de ceux qui la déploient (et la contrôlent), en resserrant les vis pour que les individus restent à leurs places.

L’IA, en tant qu’intelligence, n’existe pas… Il y a des artifices de l’intelligence, mais jamais on ne devrait accepter ce terme comme pouvant englober (ou remplacer) l’intelligence. C’est pire que la notion de Q.I.

Informatiser les formulaires papiers d’autrefois (le paperless) rend notre grand cirque bureaucratique plus efficace, en encadrant les intelligences de commis qui seraient à terme tout remplacés. C’est un projet de société qui date, et je n’en comprend pas la finalité, en dehors du fantasme de la société des loisirs qui s’éloigne plus vite de nous que les technologies se rapprochent de nos corps.

Quand au SEO, ben là aussi c’est très conservateur: tu n’existerais sur Internet que si Grand Frère t’a indexé, et tout le reste serait plus ou moins dark… Très dangereux comme principe organisateur.

Ce n’est pas neutre la Technologie; réduire sa portée à des questions d’efficacité et d’éthique la soumettrait idéalement au bon vouloir de ceux qui la déploient (donc ceux qui passent la commande aux programmeurs). Mais la technologie étant depuis longtemps constitutive de notre condition humaine, elle ne serait plus à notre service en agissant de plus en plus en dehors de notre contrôle, encore plus lorsqu’on lui accorde le pouvoir de prendre des décisions à notre place, ce qui par ailleurs est toujours faux; les modèles développés (de manières itératives et continues) sont toujours le fait d’une intelligence humaine (pas nécessairement bienveillante).

Et on n’a même pas encore abordé la « singularité » messianique si chère aux transhumanistes…

Parle-t’on de BN (pour bêtise naturelle)? Et pourtant, n’est-ce pas le sous-produit de l’IA?.

Je crois que vous confondez ce qu’un logiciel fait en utilisant des données pour fournir des paramètres à une fonction, et un hype médiatique et technocratique.

On parle d’une fonction qui calcule la position d’un site dans un moteur de recherche en fonction de la position d’autres sites et vous êtes rendus aux transhumanistes. Je vais m’arrêter ici.

Si tu ne veux pas utiliser cet algorithme, alors ne l’utilise pas !

Oui, en rapport avec la question « Intelligence artificielle au service de qui ».

Le cas spécifique du SEO est une mise en contexte. De tout manière, le SEO a toujours été un algo d’optimisation; que cet algo soit considéré comme de l’intelligence artificielle est du pur marketing; il aurait pu être décrit comme de l’apprentissage machine, mais ça n’a pas l’effet wow du terme IA.

Bonne idée, merci!

Pour l’instant, Mozilla veut juste mousser ses produits, après avoir remercié plein de programmeurs et recentré ses activités en fonction de logiques économiques:

D’abord, Mozilla est contrôlé par Google, la fondation Mozilla n’étant qu’un écran de fumée:

Alors, par rapport au transhumanisme…
Ray Kurzweill est un transhumaniste intégriste qui travaille pour Google, comme directeur de l’ingénierie: https://www.wired.com/2013/04/kurzweil-google-ai/

J’ai assisté à son keynote à la conférence ACM One en 2000 à la Nouvelle-Orléans (20 ans déjà!), ou il déballait jovialement ses certitudes; d’après lui cette décennie 2020 serait un point tournant:
https://www.kurzweilai.net/the-human-machine-merger-why-we-will-spend-most-of-our-time-in-virtual-reality-in-the-twenty-first-century
La vidéo de la conférence : https://vimeo.com/15201611

il est aussi fondateur (et chancellier) d’une université de la Singularité pour « éduquer » les décideurs publics et privés depuis plus de 10 ans: https://su.org/about/leadership/

L’apprentissage machine fait partie des techniques appelées intelligence artificielle

  • Dans le fond dès que tu as un programme qui a un déroulement conditionnel à des entrées, tu fais partie de la famille de l’IA.

L’IA au départ c’était la raison d’être de l’ordinateur, ça été inventé pour ça, donc qu’on en parlait il y a 20 ans c’est rien. On en parlait déjà lors de la 2e guerre. La seule différence entre la technologie des années 40-50 et aujourd’hui c’est la performance des machines, mais on est toujours aussi intelligent ou cons, selon la perspective que tu veux avoir.

Notre mission dans l’informatique libre c’est davantage la notion du consentement et du partage du savoir que de se préoccuper des capacités de la technologie.

Que de savoir comment faire de la reconnaissance faciale c’est une chose, mais d’accumuler dans une entreprise les données permettant de reconnaître tous les humains de la planète c’est autre chose. Ce n’est plus le logiciel qui est l’enjeu, mais les données. Le logiciel est probablement libre de toute façon et disponible sur github. Mais ce sont les données qui donnent la puissance au logiciel en question, sinon il est plutôt inoffensif.

Oui, non, peut-être…

Kurzweill parlait de « spiritual machines »; rendu là, est-ce encore inoffensif?

J’aimerais bien être rassuré par la supposée neutralité technologique…
Le fait que ça fait longtemps qu’on s’en contente (et qu’on s’en soit habitué) ne me rassure pas.

Le fantasme d’origine de Ada Lovelace était aussi de créer une machine spirituelle (bien avant le premier ordinateur digne de ce nom), mais ce genre de délire a une influence importante sur la suite du monde, ce n’est plus de la fiction, et on peut facilement conclure que le consentement deviendra implicite; l’infonuagique a maintenant la puissance d’une religion, métissée à d’autres croyances.

Le logiciel libre ne peut plus être un rempart suffisant, d’abord parce qu’il a été presque totalement subjugué par le mouvement « open source », et parce que, comme tu l’indiques, ce sont les données qui seront offensives.

Quelques développeurs refusent de continuer, désolés d’avoir ouvert des boites de Pandore, comme le créateur de YOLO. Faire du libre (ou du open) peut encourager le meilleur et le pire.

Bref, la question reste ouverte.