Intelligence Artificielle & Ethique : la réponse à valeur ajoutée du groupe Magellan Partners via ses entités Magellan Consulting et Exakis Nelite

Pas de doute, cette technologie interpelle, les interrogations abondent et l’accompagnement des entreprises est primordial.

Au travers de ses différentes entités, le groupe Magellan Partners offre l’ensemble des compétences pour aborder ces sujets complexes, notamment au travers d’Exakis Nelite, 1^er pure player indépendant des technologies Microsoft et de Magellan Consulting, dédié à l’activité de conseil en management.

Trois experts du groupe reviennent sur leurs expériences sur ce thème : Christophe Gueguen, Senior Manager Security4business chez Magellan Consulting, Jérémy Sanglier, CTO Infrastructure & Sécurité Exakis Nelite et Victor Salas, Development Service Director, Exakis Nelite.

Des enjeux majeurs

Toutes les activités autour de l’Intelligence artificielle sont extrêmement récentes et puissantes. Si le cadre juridique est partiellement fixé, les cas d’usages et l’appropriation par les particuliers et les entreprises n’en sont qu’à leurs débuts.

Tout le monde a bien compris l’infini des possibilités offertes par les IA et l’importance des données qui vont servir à les alimenter. Dans les consciences, ces points font très vite écho au RGPD (Règlement Général de la Protection des Données) et aux enjeux de discrimination (Déclaration des Droits de l’Homme). Ces lois sont d’autant plus prégnantes dans les esprits que les responsables ont compris qu’ « une divulgation publique d’une utilisation de modèles discriminatoires en interne va indéniablement ternir l’image de marque et atteindre irrémédiablement l’activité business » alerte Christophe Gueguen

Il s’agit donc d’aller vers l’IA dans une démarche qualitative où les risques sont évalués pour mesurer notamment l’intérêt métier, la conformité et les impacts d’image. Il convient de distinguer les services à valeur ajoutée et la bonne utilisation des données dans un cadre juridique, des usages inappropriés.

L’éthique, cette composante clé de l’IA

L’Intelligence Artificielle fait désormais partie des sujets phares des organisations, si les entreprises se questionnent de plus en plus, les données et l’usage autour des données constituent les deux volets clés.

Depuis quelques années, les IA sont utilisées par les équipes sécurité pour les aider à repérer des incidents de sécurité. Aujourd’hui, les technologies sont capables d’analyser de grands volumes de données et détecter des signaux faibles qu’un humain ne perçoit pas forcément, « ainsi, ces solutions intégrées sur les environnements des entreprises décèlent des événements anormaux nécessitant d’être analysés plus en profondeur » explique Christophe Gueguen. Des éléments de fraude peuvent être constatés, par exemple, tel qu’un accès à une base RH de paye depuis des postes qui n’y vont jamais en temps normal ».

Dorénavant, les entreprises commencent à utiliser l’IA pour leurs besoins métiers et se retrouvent confrontées à tous les champs du possible. Le cas de l’utilisation des données des caméras et des reconnaissances faciales a fait beaucoup parler de lui et permet de comprendre toutes les possibilités (anticipation d’attaques ou d’actes malveillants) comme toutes les dérives (surveillance des allers et venues des populations). Bien d’autres cas existent dans tous les secteurs d’activités.  « L’éthique au cœur de l’Intelligence Artificielle devient un élément décisif de la gouvernance et de l’utilisation des données » complète Christophe Gueguen. « De plus en plus d’entreprises nous interrogent : qu’a-t-on le droit de faire avec les données ? Est-on conforme ?

Il faut également évaluer les critères donnés à l’Intelligence Artificielle par rapport aux scénarios envisagés, et les problématiques d’alimentation des intelligences artificielles par les données qui vont orienter les modèles. Sur ce point, la vigilance est de rigueur, « nous conseillons nos clients par rapport à leur éthique. « Les règlementations et jurisprudences sont en cours de discussion. Nous intervenons donc pour identifier les conditions de mise en œuvre des initiatives et évaluer les risques ; la mise en place de garde fous est primordiale » précise Christophe Gueguen.

Une réponse à bon niveau nécessite de disposer d’une vision 360° des sujets et de mixer des expertises juridiques, d’organisation de la sécurité et de la protection des données, d’évaluation et d’audit de la sécurité des services mis en œuvre ainsi que de communication de crise en cas de problème. Nous avons la chance de disposer de l’ensemble de ces compétences au sein de Magellan Partners et de pouvoir nous appuyer sur les practices qu’elles soient orientées métier ou expertes sur les offres comme celle de Microsoft

Une stratégie d’ouverture

Adopter rapidement la voie de l’IA sans bousculer ses habitudes est la priorité, et Exakis Nelite oriente et accompagne les clients en ce sens !

Ainsi, les services Microsoft permettent aux Directions Métiers des entreprises utilisant l’IA d’implémenter les algorithmes et les mécanismes de traitement de la donnée. L’éditeur prône l’ouverture et l’adaptation à la réalité du métier, « et met à disposition les outils avec lesquels les métiers ont l’habitude de travailler, quel que soit le langage et les types de données et de stockage » explique Victor Salas, « adopter la plate-forme Microsoft ne remet nullement en cause les outils et les méthodes de travail, nous facilitons la transition pour les équipes IA et le portage des solutions sur la plate-forme ».

Pour preuve, avant de tester la suite Azure Machine Learning, les clients peuvent tout à fait récupérer le code utilisé sur les plates-formes de code source, « l’objectif de Microsoft n’est pas d’avoir ses propres algorithmes et technologies propriétaires mais d’offrir une plate-forme ouverte et conforme aux standards pour faciliter le travail des spécialistes et accélérer leurs projets avec la puissance de la plateforme Azure IA ».

De plus, sur son blog et dans ses diverses publications, « Microsoft transmet sa vision de l’IA et son rôle dans la société au travers de principes fondamentaux : l’équité, l’inclusion, la transparence, la fiabilité, la sécurité et la confidentialité. Nous sensibilisons activement nos clients sur ces sujets » ajoute Jérémy Sanglier.

Les premiers pas concrets dans l’univers IA

Dans tout projet, les fondamentaux sont essentiels, « comme l’IA se nourrit de la donnée, nous insistons aussi auprès des entreprises que nous conseillons sur l’accessibilité, la cohérence et la qualité des données, et nos missions en amont visent à faciliter la collecte et la rationalisation du traitement de la donnée, ces basiques ne doivent pas être négligés » résume Jérémy Sanglier.

Et de poursuivre, « l’IA chez Microsoft n’est pas concentrée en une seule technologie en tant que telle, c’est un agrégat de technologies qui dépend évidemment de la finalité : IA côté BtoB ou BtoC autour des chatbots par exemple, ou bien des services plus évolués avec l’agrégation de données. La plate-forme Azure IA regroupe les technologies en fonction des entrées et du résultat qu’on souhaite donner ».

Deux voies IA sont donc possibles. Pour les entreprises n’ayant pas d’existant, Exakis Nelite propose la plate-forme IA by Microsoft avec des outils packagés faciles d’accès et d’utilisation pour appréhender rapidement le sujet IA (plates-formes de Machine Learning utilisant les standards du marché et algorithmes publics). Pour les entreprises ayant déjà un existant, Exakis Nelite préconise la plate-forme en y associant les solutions déjà utilisées en interne par l’entreprise.

L’offre sur-mesure est très appréciée, « le client peut consolider et capitaliser sur la plate-forme Azure, ou opter pour une stratégie hybride, avec une partie des workloads sur Azure et une autre partie sur sa propre plate-forme, pour des raisons de confidentialité par exemple » conclut Victor Salas.

Plus d’informations sur Exakis Nelite et Magellan Partners

Exakis Nelite & Magellan Consulting : Des expertises et des moyens au service des clients

Exakis Nelite, 1^er pure-player des technologies Microsoft en France et 2^ème en Europe, et Magellan Consulting, activité de conseil en organisation au sein de Magellan Partners, conjuguent leurs moyens pour répondre aux problématiques transverses des entreprises. Magellan Partners accompagne les entreprises dans leur transformation numérique et leur choix stratégiques, tout en s’appuyant sur les technologies de mise en œuvre de cette transformation, avec Exakis Nelite « la meilleure manière de faire réussir nos clients est de mixer nos savoir-faire pour évoquer les bons scénarios d’utilisation et implémenter efficacement les solutions dans le contexte technologique ».

Responsables Sécurité, Ressources Humaines et Marketing : Tous attentifs et concernés par l’IA

Sur les sujets IA, les consultants Exakis Nelite et Magellan Consulting travaillent en étroite collaboration avec de nombreux interlocuteurs chez les clients, selon le secteur d’activité et les besoins. En termes d’éthiques et sécurité, les interlocuteurs sont les responsables IT, la sécurité, les responsables juridiques, et les DPO (Data Protection Officer), garants du respect du RGPD dans un premier temps. « Au vu de nombreuses sollicitations métiers, nous échangeons désormais avec les Ressources Humaines qui font face à des problématiques de déploiement IA & Chatbots ». Enfin, les directions marketing se questionnent aussi lors de la mise en place de CRM (gestion et collecte des informations, applications mobiles …), et veulent communiquer sur le bon usage des données à leurs clients BtoB, notamment, quand il s’agit de start-up ou d’ETI.

Machine Learning & IA & Ethique : Comprendre le traitement statistique

Le Machine Learning, c’est en quelque sorte  «  le traitement de la donnée qui adopte un comportement qui lui semble logique au vu du passé, sans la notion éthique ». Il est donc difficile d’anticiper les résultats qui vont être produits par les modèles, ceux-ci étant calculés par la machine sur des données statistiques. Alors, comment comprendre le raisonnement de la machine prenant une décision ? L’explicabilité du Machine Learning est un sujet pris très au sérieux au sein du Groupe Magellan Partners et étudié avec des chercheurs en Intelligence Artificielle, qui rapprochent les deux types d’IA, tentent d’expliquer les comportements de la machine et injectent de l’humain pour des décisions conformes à l’éthique.

De plus, le partenariat engagé avec le CRIL, Centre de Recherche en Informatique de Lens, expert sur les sujets d’IA, va en ce sens, « nous avons des projets communs qui visent à rapprocher le monde du Machine Learning avec l’IA  symbolique, plus déterministe pour traiter l’explicabilité du Machine Learning et pallier les problématiques d’éthique et d’erreurs ».