TRANSCRIPT 🔗
WEBVTT
00:00:01.729 --> 00:00:15.198
Bienvenue sur Décidéo, le podcast des passionnés de data, présenté par Philippe Nieubourg.
00:00:22.754 --> 00:00:35.024
Il y a une semaine, Colibra a annoncé le rachat d'une start-up municoise de trois ans d'âge, montant non communiqué et qui réduit un tour de table d'un million et demi d'euros, pas davantage.
00:00:35.085 --> 00:00:41.469
Et pourtant, cette opération dit quelque chose d'important sur la gouvernance de l'intelligence artificielle en entreprise.
00:00:41.990 --> 00:00:52.719
Colibra d'abord, né à Bruxelles en 2008, installé à New York depuis 2015, plus de 700 clients, 78 entreprises du Fortune 500.
00:00:52.719 --> 00:00:56.524
Historiquement, un spécialiste du catalogue de données.
00:00:57.145 --> 00:01:02.731
Aujourd'hui, elle se présente comme, je cite,« le plan de contrôle de l'intelligence artificielle d'entreprise».
00:01:02.750 --> 00:01:04.191
Rien de moins que ça.
00:01:04.231 --> 00:01:08.576
Ce qu'elle achète avec TrailML, ce sont trois choses.
00:01:08.617 --> 00:01:13.942
Des agents qui déterminent seules quelles réglementations s'appliquent à un système d'IA.
00:01:13.983 --> 00:01:20.769
Des évaluations de conformité qui se rejouent dès que l'épreuve change et non plus une seule fois par an.
00:01:20.829 --> 00:01:27.918
Et surtout, la capacité de blocage et, en production, l'action d'un agent qui violerait une politique interne.
00:01:27.957 --> 00:01:30.400
Voilà le vrai basculement.
00:01:30.439 --> 00:01:33.463
Jusqu'ici, gouverner Ilias était documenté.
00:01:33.504 --> 00:01:35.426
Désormais, c'est intervenir.
00:01:35.506 --> 00:01:38.468
On passe du classeur au coupe-circuit.
00:01:38.509 --> 00:01:41.572
Pour les directions de la gouvernance, deux lectures.
00:01:41.611 --> 00:01:44.515
D'un côté, une charge manuelle qui s'allège.
00:01:44.555 --> 00:01:49.381
Les équipes conformités ne constitueront plus leur dossier de preuve à la main.
00:01:49.421 --> 00:01:51.162
De l'autre, une question nouvelle.
00:01:51.182 --> 00:01:55.266
Que se passe-t-il quand l'outil bleu qu'un traitement parfaitement légitime.
00:01:55.326 --> 00:01:56.087
Et une mise en garde.
00:01:56.727 --> 00:02:01.813
Un verdict de conformité produit par un logiciel n'exonère personne.
00:02:01.873 --> 00:02:07.540
Sous les AI Act, la responsabilité reste chez celui qui déploie le système.
00:02:07.599 --> 00:02:14.586
Automatisez, agentisez, gouvernez, tout ce que vous voulez, mais rien ne vous exonérera de votre responsabilité.
00:02:15.688 --> 00:02:17.431
Reste l'ironie de l'affaire.
00:02:17.471 --> 00:02:23.818
Le marché que Colibra achète avec TrailML existe parce que l'Europe a écrit la loi.
00:02:23.858 --> 00:02:31.871
Colibra, elle, a quitté Bruxelles pour New York dix ans avant que ce texte n'existe.