L'IA Open Source : Est-ce une intelligence artificielle libre ?
De plus en plus utilisée au quotidien, l'IA Open Source est-elle libre ? Une question complexe...
L’Intelligence Artificielle (IA) était la thématique principale du Paris Open Source Summit 2019 ( nos contributions au POSS ) en décembre dernier aux Dock d’Aubervilliers. Cette technologie qui fascine le monde s’est imposée comme “Deep Tech”en quelques années seulement. Présente dans notre quotidien : voitures autonomes, assistants vocaux, apprentissage, on est loin des écrits de science-fiction. Tous ces services s’appuient sur des technologies Open Source, sans lesquelles rien ne serait possible.
Le POSS a été pour beaucoup l’occasion d’obtenir des réponses aux questions telles que :
- Qu’est-ce que l’IA Open Source peut apporter comme solutions à nos innovations ?
- Quels en sont les enjeux techniques ?
- Quels en sont les enjeux éthiques ?
Mais cependant, une question au combien importante reste sans réponse :
L’intelligence artificielle Open Source est-elle libre ?
En assistant à la conférence de Lancelot PECQUET, fondateur CEO de Will Strategy, quelques pistes de réponses voire de réflexion sur le sujet sont apparus. Quatre points ont été abordés :
- Quelles sont les libertés de l’Open Source ?
- Que deviennent-elles lorsque l’Intelligence Artificielle s’en mêle ?
- Y a-t-il des risques ?
- Est-il vraiment juste de parler d’Intelligence Artificielle libre ?
Les réponses à toutes ces questions sur l’intelligence artificielle ne se trouveront pas ici. En revanche, deux définitions et ce qu’on peut appeler une“free IA check list”, une sorte de check list qui assure a priori que l’intelligence artificielle reste libre. Histoire de vulgariser le thème et de le rendre compréhensible au commun des mortelles.
Note : libre, liberté, ouverte, gratuite sont tes termes qui, pour la compréhension du sujet signifient la même chose.
Nous savons d'emblée qu'un logiciel libre, l'est vraiment lorsque l'utilisateur peut exécuter, modifier et partager des copies originales et ou des versions modifiées du code. Nous savons également, en citant Lancelot PECQUET que « L’intelligence artificielle est une machine qui calcule de manière symbolique et ou numérique et qui interagit avec son environnement d'une manière qui a l'air d'être intelligente. »
Que fait-on pour que l'intelligence artificielle reste libre ?
1. Limiter les risques
Il faut que les IA produisent des choses intelligibles par les humains et ce n'est pas encore le cas aujourd'hui, même si certains y travaillent. L'Interface avec l'humain, c’est la compréhension de ce que la machine fait. Pas de corrélation incohérente pour tirer des conclusions absurdes. Par exemple : la corrélation à 99,9 % entre les dépenses pour la science, l’espace et la technologie avec les suicides par pendaison, strangulation et suffocation. Conclusion absurde : pour faire baisser les suicides, coupons les budgets à la science, l’espace et la technologie.
Il faut également pouvoir limiter les risques, comme introduire des biais intentionnels ou non avec des conséquences graves comme l’amplification d’inégalités qui passent à l’échelle. Par exemple, les discriminations vis-à-vis des femmes, vis-à-vis de certaines populations. A ce sujet, un article du Washington Post, datant de décembre dernier qui faisait remonter qu’un algorithme médical s’inspirant du passé, favorisait les patients blancs aux patients noirs. On réduit donc les risques en faisant des tests statistiques, on utilise le RGPD (l’utilisation ne doit pas nuire aux droits des personnes et à leurs libertés. Il est donc bon dans certain cas de faire appel à un être humain pour discuter ou contester une décision qui aurait été soumise et traitée par une machine).
2. Optimiser la reproductibilité
La reproductibilité ou de la régénération de l'IA pour tester, modifier, décentraliser, distribuer le calcul on doit posséder toute la matière : les codes sources, les algorithmes, les données...etc.
3. Prendre conscience de l'impact économique et écologique
Entraîner une IA ça coûte cher et ça consomme énormément d’énergie (pour une seule IA, la même consommation en CO² qu’une voiture tout au long de sa vie).
Ce qu'il y a à retenir.
- On est libre quand on comprend ce qui se passe et que l'on peut utiliser cette connaissance pour en faire quelque chose. Un code intelligible écrit par un humain permet d'expliquer le comportement d'une machine.
- Lorsque le comportement d'une machine est le résultat d'un "curve fitting" (une série de points mis bout à bout pour donner un résultat), il n'est pas clair que l'on comprenne qu'elle a été son cheminement pour en arriver à ledit résultat.
- Même quand le code source provenant d'une intelligence artificielle est disponible, nous ne sommes pas en mesure de pouvoir l'interpréter en tant qu'être humain.
Au final, une seule nécessité. La compréhension de ce qui se passe et que cette même nécessité réponde à deux critères :
- Avoir des IA qui discutent de manière intelligible avec nous.
- Que l'on puisse faire de la reproductibilité et de la régénération d'IA de manière raisonnable et raisonnée.
Peut-on dire qu’une Intelligence Artificielle Open Source est une intelligence artificielle libre ? Oui mais sous certaines conditions.
D’après Burno Fridlanski : “Tant qu’il y aura des machines, il y aura de l’humain”. Alors dans ce cas, tant qu’il y aura de l’humain, il aura de l’intelligence artificielle libre ;) ?