Ce que l'IA ne doit pas automatiser dans une PME

Six catégories de tâches ne doivent pas être automatisées dans une PME : les décisions qui engagent juridiquement, les communications à un client en situation difficile, tout ce qui touche à une donnée sensible sans cadre défini, les arbitrages dont personne ne peut vérifier le résultat, les échanges où la relation est le produit, et le recrutement. Le critère commun : automatiser ce qu'on ne peut pas vérifier revient à produire des erreurs invisibles à grande échelle.

1. Ce qui engage juridiquement

Un devis envoyé, une réponse à un appel d'offres, un contrat, une réponse à une réclamation formelle, une mention réglementaire.

Pourquoi. Ces documents engagent l'entreprise. Une erreur de montant, une clause mal reprise ou une affirmation qui ne peut pas être tenue crée une obligation. Le fait qu'un modèle l'ait rédigé n'est pas une défense.

Ce qui reste possible. La préparation. Un brouillon fait gagner l'essentiel du temps, la validation par quelqu'un qui a autorité pour engager reste entière.

2. La communication avec un client en situation difficile

Une réclamation, un litige, un retard important, une annonce de hausse de prix, une rupture de relation.

Pourquoi. Ce sont les moments où la relation se joue, et où le contexte que le système ne connaît pas est déterminant. Un modèle ne sait pas que ce client vous a sauvé la mise l'an dernier, ni que son interlocuteur vient de changer.

Le cas le plus fréquent. La relance automatique de recouvrement sur un dossier en litige. Le système ne sait pas qu'il y a litige et envoie un rappel formel à un client déjà mécontent. La parade est un indicateur de suspension sur la fiche, vérifié à chaque déclenchement.

3. Les données sensibles sans cadre défini

Données de santé, données couvertes par un secret professionnel, données personnelles de clients ou de salariés, informations confidentielles de vos propres clients.

Pourquoi. Envoyer ces données à un service tiers sans avoir vérifié ce qu'il en fait est un manquement, et parfois une faute contractuelle vis-à-vis de votre client.

Ce qu'il faut vérifier avant, pas après. Où sont traitées les données, si elles servent à l'entraînement, combien de temps elles sont conservées, et si un transfert hors de l'Union européenne a lieu. Les offres professionnelles des principaux fournisseurs prévoient généralement que les données transmises par API ne servent pas à l'entraînement, mais cela se lit dans les conditions, pas dans un article.

L'alternative quand le doute subsiste. Un modèle exécuté sur votre infrastructure, ou un outil d'orchestration auto-hébergé. Le choix est traité dans notre article sur n8n, Make et Zapier.

4. Ce dont personne ne peut vérifier le résultat

C'est le critère le plus général, et celui qui couvre tous les cas non listés ici.

Pourquoi. Un système automatisé produit à grande échelle. Si personne ne peut dire en quelques secondes si une sortie est correcte, les erreurs s'accumulent sans être détectées, jusqu'à ce qu'un client les découvre.

Exemple typique. L'enrichissement automatique d'un catalogue de plusieurs milliers de fiches produit, publié sans qu'une seule ait été lue. Les caractéristiques inventées par plausibilité sont indétectables dans la masse, et elles engagent votre responsabilité de vendeur.

La parade. Un échantillon vérifié systématiquement, une publication par lots, et un contrôle de cohérence automatique quand il existe.

5. Ce dont la relation est le produit

Un premier rendez-vous, un appel de suivi, un point de projet, un retour sur un travail rendu.

Pourquoi. Sur ces échanges, le contenu compte moins que le fait qu'une personne y consacre du temps. Automatiser le geste supprime exactement ce qui avait de la valeur.

C'est vrai pour les métiers de conseil, mais pas seulement. Une PME dont l'argument est la proximité et la disponibilité ne peut pas automatiser sa disponibilité sans détruire son argument.

6. Le recrutement

Le tri automatique de candidatures, la notation de candidats, l'analyse d'entretiens vidéo.

Pourquoi, sur trois plans. Le plan juridique : le règlement européen sur l'intelligence artificielle classe les systèmes utilisés en recrutement parmi les usages à haut risque, avec des obligations qui s'appliquent. Le plan éthique : un tri automatique reproduit les biais présents dans les données qui l'ont produit. Le plan pratique : sur les volumes d'une PME, le gain de temps est faible et le risque est disproportionné.

Ce qui reste possible. Rédiger une offre, préparer une grille de questions, résumer ses propres notes après un entretien. Ce sont des outils pour la personne qui décide, pas des systèmes de décision.

Le critère qui tranche les autres cas

Trois questions, dans l'ordre. Si l'une donne une mauvaise réponse, l'automatisation doit préparer et non agir.

Quelqu'un peut-il vérifier la sortie en quelques secondes ? Si non, les erreurs seront invisibles.

Que se passe-t-il si le système se trompe une fois sur cent ? Si la réponse est « on perd un client » ou « on est en tort », il faut une validation.

La tâche demande-t-elle un contexte que le système n'a pas ? L'historique de la relation, une conversation d'hier, une décision interne non écrite. Si oui, l'humain reprend la main.

Ce qui se passe quand on ne pose pas ces questions

Deux modes d'échec, également fréquents.

L'échec bruyant. Une relance envoyée au mauvais moment, une réponse automatique inadaptée. Il est visible, il coûte un client, et il fait débrancher tout le système, y compris les parties qui fonctionnaient.

L'échec silencieux, plus grave. Des données mal extraites pendant six mois, des descriptions produit qui affirment des choses fausses, un classement qui envoie systématiquement un type de demande à la mauvaise personne. Personne ne s'en aperçoit, parce qu'il n'y a pas de contrôle.

Le second est celui contre lequel il faut se prémunir en priorité, et il ne se prévient que par la vérifiabilité.

Questions fréquentes

Faut-il déclarer à ses clients qu'on utilise l'IA ?

Aucune obligation générale ne l'impose aujourd'hui pour un usage interne d'assistance. La question devient différente si le résultat est présenté comme un travail humain qui ne l'est pas, ou si des données du client sont transmises à un tiers, ce qui relève alors de vos engagements contractuels et de la protection des données. En cas de doute sur un contrat client, faites-le vérifier plutôt que de trancher seul.

Le règlement européen sur l'IA s'applique-t-il à une PME ?

Il s'applique selon l'usage, pas selon la taille. La plupart des automatisations décrites dans nos articles relèvent d'usages à risque limité, avec des obligations légères. Le recrutement, l'évaluation de personnes et l'accès à des services essentiels relèvent d'un régime plus exigeant. Si votre usage touche à des décisions concernant des personnes, faites qualifier la situation.

Peut-on automatiser la réponse aux avis clients ?

La rédaction d'un brouillon, oui, et cela améliore le taux de réponse, qui compte. La publication automatique, non : un avis négatif mal compris par le système produit une réponse qui aggrave la situation publiquement. Le coût d'une mauvaise réponse publique est sans commune mesure avec le temps gagné.

Comment savoir si une automatisation dérive ?

En mesurant, ce que presque personne ne fait. Journalisez ce qui est traité, échantillonnez régulièrement quelques sorties, et suivez un indicateur simple lié au résultat attendu. Une automatisation qu'on ne regarde plus est une automatisation dont on ignore l'état.

Pour aller plus loin

Les sept automatisations qui aboutissent le plus souvent, parce qu'elles respectent ces limites, sont décrites dans notre article sur les process à automatiser dans une PME. Nous concevons ces circuits avec les points de validation posés dès la conception, c'est l'objet de notre page automatisation IA pour PME.