Si nous voulons répondre aux besoins les plus pressants du monde, nous avons besoin de nouveaux types d'institutions qui combinent la réflexion rigoureuse et vaste que l'on trouve le plus souvent dans le milieu universitaire avec l'éthique de justice sociale du secteur non lucratif et la rapidité d'exécution et l'échelle des ressources que l'on trouve le plus souvent dans les entreprises.

Et c'est pourquoi j'ai fondé DeepMind. Je voulais construire une organisation capable de suivre le rythme d'un monde en mutation et d'avoir un véritable impact à grande échelle, avec une mission éthique au cœur et les ressources nécessaires pour investir à très long terme.

Notre organisation se consacre à accroître nos capacités de compréhension et de cognition pour aider à résoudre les défis les plus pressants de la société. C'est pour moi la véritable valeur de distiller ce qui nous a rendus si efficaces et uniques en tant qu'espèce, notre intelligence, et d'essayer de recréer cette intelligence, ou du moins ces capacités, dans un monde numérique.

Aujourd'hui, il est également clair que la technologie perd la confiance de la société. De nombreuses technologies commencent avec cet état d'esprit altruiste et sans doute naïf au départ. Malgré le fait que cinq des dix entreprises les plus valorisées au monde sont en fait des entreprises technologiques, la plupart d'entre nous veulent encore se voir comme des jeunes pousses audacieuses essayant de changer le monde pour le mieux.

Mais la vérité est que nos bonnes intentions, initialement capturées par ces slogans bienveillants, se heurtent aujourd'hui à une inquiétude croissante de la part des commentateurs et, bien sûr, du public. Je tiens à préciser qu'il ne s'agit pas d'une critique des entreprises portées par une mission. En fait, je crois sincèrement que ces types d'organisations seront la clé de notre avenir.

Et je veux aussi être clair sur la sincérité des motivations de la vaste majorité des financeurs, fondateurs et cadres que j'ai rencontrés au fil des ans. Ces personnes veulent vraiment faire une différence et agir correctement. Mon expérience en tant que co-fondateur d'une entreprise technologique est qu'il y a là un véritable défi.

Il ne s'agit pas simplement pour les entreprises technologiques de mieux informer le public sur le bien qu'elles essaient de faire, bien que cela soit certainement nécessaire. Je pense plutôt que ce scepticisme de la part du public doit être entendu comme un signal d'alarme urgent pour les entreprises technologiques.

Il est temps pour nous de réfléchir profondément au rôle de l'industrie technologique et de penser à la manière dont nous allons mettre nos principes en pratique, non seulement en tant qu'individus, mais aussi en tant qu'institutions formelles.

Je proposerais donc qu'il existe trois asymétries problématiques qui façonnent la manière dont les entreprises technologiques interagissent actuellement avec le public. Et ce sont ces asymétries qui ont contribué à la détérioration de la confiance du public envers la tech et qui devraient maintenant constituer des domaines d'action urgente pour nous tous.

Il existe une asymétrie entre les personnes qui développent les technologies et les communautés qui utilisent leurs produits. Si l'on regarde la Silicon Valley, les salaires sont le double du salaire médian du reste des États-Unis. De plus, la base d'employés de l'industrie technologique n'est pas représentative de la société au sens large en ce qui concerne le genre, la race et, très important, la classe sociale.

Pour des raisons qui incluent les préjugés culturels, le coût de la vie et des processus d'embauche et de gestion discriminatoires. Une étude unique en son genre publiée par le Kapor Center plus tôt cette année sur les raisons pour lesquelles les gens quittent la technologie rapporte que 40 % ont déclaré que l'injustice avait joué un rôle majeur dans leur départ, et 78 % des employés interrogés ont déclaré avoir été, à un moment donné, traités injustement au cours de leur carrière.

Cela incluait le fait d'être écarté pour une promotion, les stéréotypes, ainsi que l'intimidation, l'humiliation et le harcèlement sexuel. Aujourd'hui, l'attention récente portée à ces questions signifie que davantage de personnes sont conscientes de la nécessité d'aborder la culture du lieu de travail, mais ces inégalités sous-jacentes se fraient également un chemin dans les entreprises d'autres manières plus insidieuses.

Les groupes représentant des communautés plus diverses, et souvent l'intérêt public, n'ont généralement pas leur place à la table lorsqu'il s'agit de prendre les décisions importantes qui influencent l'orientation du développement des produits dans les grandes entreprises technologiques.

En conséquence, les employés des entreprises technologiques sont largement détachés des réalités quotidiennes des personnes qu'ils sont censés servir, ce qui signifie que des préjudices et des biais involontaires peuvent souvent être intégrés dans les produits que nous livrons.

Deuxièmement, il existe une asymétrie d'information concernant le fonctionnement de la technologie et la manière dont elle façonne la société. Comme le montrent les récentes auditions au Congrès sur l'ingérence russe dans les élections américaines, même les personnes aux plus hauts niveaux du gouvernement comprennent peu les nouvelles façons dont la technologie est utilisée pour façonner notre monde.

Il est assez clair qu'en tant que société, nous commençons à peine à réaliser à quel point ces systèmes numériques influencent profondément notre vie quotidienne. Même si les entreprises fournissaient leur code publiquement, notre société civile et nos institutions de régulation manquent souvent de l'expertise technique nécessaire pour vérifier les affirmations faites par l'industrie sur ses propres algorithmes et systèmes.

C'est un problème véritablement difficile que de tenter de combler les fossés entre ce que les entreprises construisent déjà, comment anticiper et bien sûr orienter les effets futurs potentiels sur la société, puis comment engager et bien sûr expliquer tout cela au public.

Troisièmement, il existe une asymétrie de motivation entre les incitations basées sur le marché et les objectifs sociétaux auxquels nous aspirons tous, bien entendu. L'argent et la croissance ne peuvent pas être les seuls arbitres du succès. Et nous ne pouvons plus supposer que la recherche acharnée de l'efficacité générera nécessairement un bénéfice sociétal suffisant pour justifier ce modus operandi.

Les indicateurs standards que nous utilisons pour mesurer le progrès et la réussite, les valorisations des tours de table, le nombre d'utilisateurs actifs par mois, les revenus, ne reflètent que les devoirs fiduciaires des entreprises. Ils peuvent souvent accorder une attention insuffisante à la responsabilité sociétale qui découle du changement du monde.

Et puisque les sièges au conseil d'administration sont bien sûr occupés par des investisseurs et que la concurrence est la règle du jeu, les entreprises peuvent glisser lentement vers des pratiques discutables pour stimuler agressivement l'acquisition d'utilisateurs, parfois sans tenir suffisamment compte des conséquences sociétales à plus long terme de ces actions.

Et maintenant, je pense que les bonnes intentions ne suffisent plus. Nous devons faire beaucoup plus pour regagner la confiance du public. Nous devons assumer la responsabilité des implications éthiques de notre travail, en anticipant les défis au début du cycle de vie d'un projet au lieu de s'y attaquer à mi-parcours ou, pire, après coup.

Et nous devons affronter ces asymétries de front, ne pas espérer qu'elles disparaissent. Elles ne disparaîtront pas. L'impact de la tech est clairement énorme. L'effet qu'il a sur la vie des gens exige que nous fassions beaucoup mieux.