Les employés de Google se sont révoltés, affirmant que la société devrait fermer son projet de drone militaire

Il y a environ un mois, Google a collaboré avec le département américain de la Défense sur un logiciel de drone appelé "Project Maven". Le projet a appliqué les techniques de reconnaissance d'image de Google aux millions d'heures de métrage de drone collectées par l'armée dans le but d'identifier des personnes et des objets d'intérêt. À cette époque, certains employés de Google auraient été scandalisés par cette nouvelle et Le New York Times rapporte que la situation a dégénéré en une lettre officielle adressée au PDG de Google, Sundar Pichai.

La lettre, qui selon le Times a "recueilli plus de 3 100 signatures", figure au premier paragraphe et demande que le projet soit annulé:

Cher Sundar,
Nous pensons que Google ne devrait pas être impliqué dans la guerre. Par conséquent, nous demandons que le Projet Maven soit annulé et que Google propose, publie et applique une politique claire stipulant que ni Google ni ses sous-traitants ne développeront jamais une technologie de guerre.

La lettre poursuit en affirmant que "créer cette technologie pour aider le gouvernement américain à la surveillance militaire - et à des résultats potentiellement mortels - n'est pas acceptable" et que Maven "endommagera de manière irréparable la marque Google et sa capacité à rivaliser pour attirer les talents". La lettre invoque même la devise de Google "Don't Be Evil".

Un porte-parole de Google a envoyé la réponse suivante à la lettre:

Une partie importante de notre culture consiste à avoir des employés activement engagés dans le travail que nous effectuons. Nous savons que l’utilisation des nouvelles technologies soulève de nombreuses questions en suspens. Par conséquent, ces conversations - avec les employés et des experts externes - sont extrêmement importantes et bénéfiques.

Maven est un projet DoD très médiatisé, et Google travaille sur une partie de celui-ci, dont l'objectif est de servir des objectifs non offensifs et d'utiliser un logiciel de reconnaissance d'objet open source disponible pour tous les clients de Google Cloud. Les modèles sont basés sur des données non classifiées uniquement. Cette technologie est utilisée pour marquer les images à des fins d'analyse humaine et vise à sauver des vies et à éviter aux gens d'avoir à effectuer un travail très fastidieux.

Toute utilisation militaire de l'apprentissage automatique soulève naturellement des préoccupations valables. Nous sommes activement engagés dans toute la société dans une discussion approfondie sur ce sujet important et avec des experts externes, alors que nous continuons à développer nos politiques relatives au développement et à l'utilisation de nos technologies d'apprentissage automatique.

Alors que le projet est "spécifiquement conçu pour être à des fins non offensives", la lettre de l'employé conteste cette assurance, affirmant que "la technologie est conçue pour l'armée, et une fois livrée, elle pourrait facilement être utilisée pour tâches [mortelles] " Bien que le projet ne crée peut-être pas de système d'armes autonome, l'identification de la cible n'est souvent que la première étape d'un mouvement offensif en direction de cette cible. De nombreux employés de Google ne sont clairement pas à l'aise avec une implication dans ce processus.

Google n'est pas le seul géant technologique à s'impliquer dans des projets militaires. le Fois souligne qu'Amazon et Microsoft ont tous deux divers produits concurrents destinés au ministère de la Défense.