Bienvenue à cette 12e édition du Laboratoire !
Cette semaine, on parle de ce qu’on peut vraiment confier à un AI en santé. Plus précisément, de la façon de choisir ce qui revient à l’AI et ce qui revient au code.
Voici 1 idée, 1 citation et 1 question pour ces deux prochaines semaines.
Bonne lecture.
1 Idée qui mijote dans ma tête
J’adore les AI. Un AI peut lire n’importe quel texte, et même une image, puis en faire quelque chose d’utile. C’est incroyable.
Le problème, c’est qu’il peut aussi dire et réfléchir n’importe quoi.
En santé, la fiabilité et la reproductibilité passent avant tout. Un AI va finir par se tromper à un moment donné. Je sais pas quand, et je sais pas sur quoi. S’il peut se tromper n’importe où, je dois revérifier moi-même la tâche au complet.
Mon rêve, c’est d’enlever à toute l’équipe de la pharmacie les tâches cognitives qui demandent peu d’effort, peu importe où elles se trouvent.
Je parle de trier les fax, de trouver tous les patients touchés par une rupture de stock ou de lancer le suivi d’un patient dont le bilan sanguin arrive à échéance. Chacune de ces tâches gruge de l’attention que l’équipe pourrait mettre sur ce qui demande vraiment de l’effort et de la réflexion.
Je suis en train de programmer une solution qui veut faire exactement ça. Le plus difficile n’a pas été de programmer. Ça a été de décider ce que je confie au code et ce que je confie à l’AI.
Les deux sont des opposés. Le code a des options limitées, toutes prévues d’avance. Il applique un jugement très restreint à une situation très précise. Devant une situation que personne n’a prévue, il bloque. En échange, il fait exactement la même chose chaque fois, alors je peux bâtir dessus et l’améliorer petit à petit.
L’AI a des options illimitées. Il applique son jugement n’importe où. Une ordonnance mal écrite, une photo floue ou une question jamais vue, il en fait quelque chose. Le revers, c’est qu’il arrive qu’il réponde différemment à la même question. C’est là tout le problème de fiabilité.
Ce qui rend l’un fort rend l’autre faible. La question est donc pas de choisir entre les deux. C’est de savoir quelle tâche donner à chacun.
L’AI est une aide à la décision vraiment puissante. Il cherche l’information, applique des façons de raisonner et m’aide à résoudre des problèmes de plus en plus complexes, où tout est relié. Le code exécute ce qui a été décidé, dans le cadre étroit qu’on lui a donné, avec la même rigueur chaque fois. C’est toujours moi qui décide à la fin.
Entre ces deux opposés, je me suis bâti un escalier. Chaque marche vers le bas perd de la fiabilité et gagne de la souplesse, parfois beaucoup.
Sur la marche du haut, la règle est écrite dans le code. Le système refuse tout ce qui ne la respecte pas, peu importe qui essaie de passer.
Juste en dessous, il y a les tests, eux aussi écrits en code. Un test vérifie le travail et déclenche une action différente selon qu’il passe ou qu’il échoue.
Ensuite viennent les outils que l’AI peut utiliser. Un outil fait toujours la même chose. Le risque, c’est que l’AI ne s’en serve pas chaque fois, ou pas au bon moment.
Plus bas, il y a un modèle conçu pour choisir parmi un nombre d’options déjà définies. Il réfléchit par lui-même, mais il ne peut pas décider n’importe quoi. Au pire, il choisit la mauvaise option dans la liste.
Sur la dernière marche, on trouve l’AI général, sans aucune limite. Lui peut décider n’importe quoi.
En santé, il faut graviter le plus possible autour du code. La méfiance envers l’AI est justifiée. Faire trop facilement confiance à son jugement, c’est une grave erreur.
L’ennui, c’est qu’il faut apprendre la programmation, et c’est pas simple. C’est ce que je fais pour ma propre pharmacie, et c’est ce que je veux rendre possible pour mes collègues et leurs patients.
1 Citation qui me trotte dans la tête
Festina lente.
Hâte-toi lentement.
Cosme Ier de Médicis, grand-duc de Toscane, qui en avait fait sa devise
Les Médicis en avaient fait leur emblème, une tortue qui porte une voile sur son dos. La voile pour la vitesse, la tortue pour la prudence.
Je la lis comme une dialectique. La vitesse et la prudence ont l’air de s’opposer, et les Médicis les ont mises ensemble.
C’est ce que j’essaie de faire avec l’AI et le code. Je bannis pas l’un au profit de l’autre. Je cherche la situation où chacun donne le meilleur de lui-même, parfois dans la même tâche, sur des segments de travail très précis.
1 Question qui me fait réfléchir
Pensez à une tâche que vous ou votre équipe faites chaque jour, plusieurs fois par jour.
Laquelle aimeriez-vous confier à une automatisation qui la ferait à votre place, tous les jours, et qui vérifierait correctement son propre travail ?
Je vous laisse avec ça.
À dans deux semaines,
Alex
Je suis en train de programmer une solution pour enlever ce genre de tâche à l’équipe d’une pharmacie, sans jamais compromettre la confidentialité des patients. Je vous en reparle bientôt.
En attendant, si vous voulez bâtir un standard clair pour vos assistants techniques en pharmacie (ATP), de l’embauche jusqu’à la certification, mon curriculum de formation complet est sur mon site.
https://alexandreung.com/