Le café est peut-être servi par une main humaine, mais derrière le comptoir, une entité bien moins traditionnelle tire les ficelles dans ce café expérimental de Stockholm.
La jeune entreprise Andon Labs, basée à San Francisco, a confié la gestion de son café éponyme, l’Andon Café, à une IA surnommée «Mona».
Si des baristas humains préparent toujours le café et servent les commandes, l’IA — basée sur la plateforme Gemini de Google — supervise la quasi-totalité des autres aspects de l’établissement, du recrutement du personnel à la gestion des stocks.
On ignore combien de temps durera l’expérience, mais l’IA semble avoir du mal à dégager des bénéfices dans le secteur très concurrentiel du café à Stockholm.
Le café a réalisé plus de 5700 $ de chiffre d’affaires depuis son ouverture mi-avril, mais il reste moins de 5000 $ sur un budget initial de plus de 21 000 $. La majeure partie des fonds a été consacrée aux frais d’installation initiaux, et l’espoir est que l’activité se stabilise et devienne rentable.
De nombreux clients du café ont trouvé amusant de se rendre dans un établissement géré par une IA. Ils peuvent téléphoner à l’intérieur du café et poser des questions à l’agent.
«C’est intéressant de voir ce qui se passe quand on repousse les limites, a déclaré Kajsa Norin, une cliente. La boisson était bonne.»
Des experts s’inquiètent du rôle futur de l’IA. Selon eux, les questions éthiques sont nombreuses, allant du rôle de la technologie dans l’avenir de l’humanité à la conduite d’entretiens d’embauche et à l’évaluation des performances des employés.
Emrah Karakaya, professeur associé d’économie industrielle à l’Institut royal de technologie KTH de Stockholm, a comparé l’expérience à «l’ouverture de la boîte de Pandore» et a déclaré que confier les rênes à une IA pouvait engendrer de nombreux problèmes. Que se passerait-il, a-t-il demandé, si un client était victime d’une intoxication alimentaire? Qui serait responsable?
«Si l’infrastructure organisationnelle nécessaire n’est pas en place et si l’on néglige ces erreurs, cela peut nuire aux individus, à la société, à l’environnement et aux entreprises, a souligné M. Karakaya. La question est: sommes-nous soucieux de cet impact négatif?»
Fondée en 2023, Andon Labs est une jeune entreprise de recherche et de sécurité en IA qui affirme se concentrer sur la mise à l’épreuve des agents d’IA dans le monde réel en leur fournissant de «vrais outils et de vrais fonds». Elle a collaboré avec OpenAI (créateur de ChatGPT), Anthropic (de Claude), DeepMind (de Google) et xAI (d’Elon Musk), et se prépare à un avenir où les organisations seront gérées de manière autonome par l’IA.
Le café suédois est présenté comme une «expérience contrôlée» visant à explorer les possibilités de déploiement de l’IA à l’avenir.
«L’IA jouera un rôle majeur dans la société de demain, et c’est pourquoi nous souhaitons mener cette expérience afin d’identifier les questions éthiques qui se posent lorsqu’une IA emploie d’autres personnes et gère une entreprise», a expliqué Hanna Petersson, membre de l’équipe technique d’Andon Labs.
Le laboratoire avait précédemment mené des projets pilotes où Claude AI d’Anthropic gérait une entreprise de distributeurs automatiques et une boutique de cadeaux à San Francisco. La simulation du distributeur automatique a révélé des comportements inquiétants: l’IA avait promis des remboursements aux clients, mais ne l’a jamais fait, et a également menti intentionnellement aux fournisseurs sur les prix de la concurrence pour obtenir un avantage.
L’IA rencontre des difficultés avec les commandes de stock
Mona s’est mise au travail après avoir reçu quelques instructions de base, a expliqué Mme Petersson. L’équipe lui a demandé de gérer le café de manière rentable, d’être aimable et facile à vivre, et de se débrouiller seule pour les détails opérationnels, tout en demandant de nouveaux outils si nécessaire.
Elle a ensuite souscrit des contrats d’électricité et d’internet, et obtenu les autorisations pour la manipulation des aliments et l’aménagement d’une terrasse. L’IA a ensuite recruté du personnel sur LinkedIn et Indeed, et ouvert des comptes professionnels auprès de grossistes pour les commandes quotidiennes de pain et de produits de boulangerie. Elle communique avec les baristas via Slack, leur envoyant souvent des messages en dehors des heures de travail, ce qui est formellement interdit en Suède.
D’autres problèmes sont apparus, notamment concernant la gestion des stocks. L’agent IA a commandé 6000 serviettes, 4 trousses de premiers secours et 3000 gants en caoutchouc pour le petit café, sans oublier les tomates en conserve qui ne sont utilisées dans aucun plat.
Et puis, il y a le pain. Parfois, l’agent en commande beaucoup trop, tandis que d’autres jours, il ne respecte pas les délais de livraison des boulangeries, obligeant les baristas à retirer des sandwichs de la carte.
Selon Mme Petersson, ces problèmes de commande sont probablement dus au «contexte limité» de l’assistant IA.
«Quand elle n’a plus accès à ses anciennes commandes, elle oublie complètement ce qu’elle a commandé auparavant», explique Mme Petersson.
Le barista Kajetan Grzelczak affirme ne pas craindre d’être remplacé par l’IA pour le moment.
«Tous les employés sont à peu près en sécurité, dit-il. Ceux qui devraient s’inquiéter pour leur emploi, ce sont les cadres intermédiaires, les dirigeants.»