Comment les entreprises peuvent convaincre les sceptiques de l’IA

« Beaucoup sont soumis à l’IA, souvent sans décision explicite d’utiliser ces systèmes », a déclaré Julia Stoyanovich, professeur et directrice du Center for Responsible AI de l’Université de New York. « Nous voulons donner aux gens la possibilité de décider, d’aider au débogage, d’aider à comprendre les avantages et de surveiller les risques et les préjudices. »

Selon une enquête de KPMG publiée cette année, 42 % des personnes interrogées pensent que l’IA générative a déjà un « impact significatif » sur leur vie personnelle, tandis que 60 % s’attendent à ce que cela se produise d’ici deux ans. Malgré l’impact considérable de l’IA, seuls 10 % des Américains déclarent être « plus enthousiasmés que préoccupés » par l’IA, selon une étude réalisée l’année dernière par le Pew Research Center. Alors que les décideurs politiques du monde entier examinent les réglementations potentielles pour l’IA, certaines entreprises proposent de manière proactive un aperçu des mesures qu’elles prennent pour innover de manière responsable.

Chez Intuit, l’IA est intégrée à toute la gamme de produits de l’entreprise, notamment les assistants d’IA générative dans TurboTax, QuickBooks, Credit Karma et une suite d’outils sur la plateforme de marketing par courrier électronique de l’entreprise, Mailchimp. Selon l’entreprise, des millions de modèles génèrent chaque jour 65 milliards de prédictions d’apprentissage automatique et effectuent 810 millions d’interactions basées sur l’IA par an.

« Il y a cinq ans, nous avons déclaré que notre stratégie en tant qu’entreprise consistait à créer une plateforme experte basée sur l’IA, qui combine IA et expertise. Grâce à cet investissement, nous proposons désormais aujourd’hui des millions de modèles réels basés sur l’IA », a déclaré Rania Succar, PDG d’Intuit Mailchimp. « Lorsque l’IA générative est apparue, nous étions prêts à aller très loin grâce à l’investissement que nous avions réalisé et au potentiel que nous voyions pour nos clients finaux. »

Avec autant de points de données dans les petites entreprises démontrant ce qui fonctionne et ce qui ne fonctionne pas, l’entreprise a vu une opportunité de rendre l’IA générative accessible au grand public, et pas seulement aux grands acteurs qui peuvent se permettre de créer leurs propres modèles d’IA. Intuit a construit son propre système d’exploitation d’IA générative qui garde privées les données sur lesquelles il s’entraîne, a déclaré Succar. Les clients d’Intuit Mailchimp peuvent ensuite utiliser l’IA pour générer des e-mails et des textes marketing avec la voix de leur marque, et configurer des e-mails automatisés pour aider à accueillir de nouveaux clients ou rappeler à quelqu’un lorsqu’il a laissé un article dans son panier en ligne.

Au cours des derniers mois, Intuit Mailchimp a vu l’adoption de la génération de texte générative par l’IA augmenter de plus de 70 %, a déclaré Succar. Malgré la croissance, l’entreprise fait attention à la manière dont le produit est mis à l’échelle.

L’un des problèmes inhérents aux modèles d’IA partout dans le monde est qu’ils ne sont jamais parfaits. L’IA peut halluciner de fausses informations, générer des informations offensantes et exacerber les biais qui pourraient être présents dans les données d’entraînement du modèle. Afin d’éviter que cela ne se produise, Succar a déclaré qu’Intuit Mailchimp sélectionnait délibérément les industries qui ont accès à ses outils d’IA générative. (Elle a refusé de préciser quelles industries Intuit Mailchimp ne prend actuellement pas en charge avec l’IA générative.)

Le différenciateur réside peut-être dans le fait qu’Intuit croit toujours qu’il y a une place pour les humains dans un monde où l’IA devient rapidement capable de tout prendre en charge, du banal au créatif. Chaque élément de contenu généré est examiné par l’utilisateur avant d’être envoyé aux clients. Les escalades, telles que les réponses médiocres ou inexactes, peuvent être signalées aux réviseurs de contenu humains. Tout comme les gens peuvent se connecter avec un expert humain sur TurboTax, a déclaré Succar, il y a une place pour les experts humains en marketing.

« Les experts humains seront toujours en mesure d’ajouter un niveau d’expertise supérieur à celui de l’IA et de créer de la confiance pour les petites entreprises », a noté Succar.

D’autres entreprises technologiques prennent des mesures pour aider les gens à comprendre le fonctionnement de leur IA et à discerner ce qui est réel et ce qui ne l’est pas. TikTok a déployé un outil permettant aux créateurs d’étiqueter leur contenu généré par l’IA et a déclaré l’année dernière qu’il testait également des moyens de le faire automatiquement. Meta a annoncé qu’elle étiqueterait les images générées par l’IA sur Facebook, Instagram et Threads. Microsoft a expliqué dans un article de blog les garanties mises en place pour ses produits d’IA générative Copilot et Microsoft Designer. Et l’année dernière, Google a révisé son algorithme de recherche pour prendre en compte le contenu généré par l’IA de haute qualité.

Comprendre ce qui est réel et ce qui ne l’est pas n’est qu’une partie de l’équation. La prolifération des deepfakes, plus récemment des images explicites à l’effigie de Taylor Swift, ont mis en lumière un problème fondamental de l’IA. Dan Purcell, cofondateur et PDG de Ceartas, une société qui utilise des modèles d’IA pour lutter contre le piratage en ligne, a déclaré qu’il avait réussi à faire supprimer un nombre croissant d’images générées par l’IA pour ses clients, qui vont des célébrités et créateurs de contenu aux cadres supérieurs. cadres.

« La façon dont notre technologie fonctionne est que nous construisons un modèle d’infraction. Nous n’avons pas besoin d’accéder au contenu original. Nous n’avons pas besoin de prendre des empreintes digitales sur les clips. Nous avons juste besoin du nom du contenu, car c’est ainsi que les gens le trouvent en ligne », a-t-il déclaré. « Lorsque nous examinons des créateurs de contenu et des entreprises individuels, nous modifions légèrement les ingrédients pour être plus spécifiques à cette marque ou à cet individu, puis appliquons l’apprentissage à un large spectre. »

Comme l’ont démontré les deux dernières années, les progrès de l’IA ne feront que s’améliorer. (Ne cherchez pas plus loin que la réaction à Sora, la plateforme texte-vidéo d’OpenAI.) Bien qu’il n’y ait peut-être plus d’option pour éviter l’IA, Stoyanovich a déclaré qu’il y aurait encore du travail à faire, en réunissant les acteurs de l’industrie, les universitaires, les décideurs politiques et les utilisateurs doivent parvenir à un consensus sur un cadre de gouvernance de l’IA exploitable. En attendant, alors que les gens commencent à remarquer davantage d’exemples d’IA dans leur quotidien, elle a donné ce conseil :

« Ce qui est important, c’est de garder une bonne dose de scepticisme quant aux capacités de cette technologie et d’autres types de technologies », a-t-elle déclaré. « Si cela semble trop beau pour être vrai et, en même temps, si nous ne savons pas sur quelles données le modèle est basé et comment il a été validé, alors il ne fonctionne probablement pas comme annoncé. »

Abonnez-vous à la newsletter Eye on AI pour rester informé de la manière dont l’IA façonne l’avenir des entreprises. Inscription gratuite.