Faits saillants et transcription de l’exposé de 20 000 mots sur l’éthique de Zuckerberg

Mark Zuckerberg dit qu’il serait peut-être juste que Facebook laisse les gens payer pour ne pas voir les publicités, mais qu’il serait mal vu de faire payer les utilisateurs pour des contrôles de confidentialité supplémentaires. Ce n’est là qu’un des points de vue philosophiques fascinants que le PDG a partagés lors de la première conférence publique qu’il a promise dans le cadre de son défi personnel en 2019.

Parlant à Jonathan Zittrain, professeur de droit et d’informatique à Harvard, sur le campus de l’université qu’il a quittée, Zuckerberg a réussi à échapper à une conversation de 100 minutes avec seulement quelques gaffes. À un moment donné, il a dit : “Nous ne voulons certainement pas d’une société où il y a une caméra dans le salon de tout le monde qui regarde le contenu de ces conversations”. Zittrain lui a rapidement rappelé que c’est exactement ce qu’est Facebook Portal, et Zuckerberg a essayé de détourner son attention en disant que les enregistrements de Portal seraient cryptés.

A lire aussi : Fitbit's Inspire remplacera les appareils Alta, Zip, One et Flex 2.

Plus tard, Zuckerberg a mentionné que “les annonces, dans beaucoup d’endroits, ne sont même pas si différentes du contenu organique en termes de qualité de ce que les gens sont en mesure de voir” ce qui est assez triste et dérisoire évaluation des photos personnelles et des mises à jour de statut que les gens partagent. Et lorsqu’il a suggéré une vérification des faits par la foule, Zittrain a sonné l’alarme en disant que cela pourrait devenir une avenue pour “l’astroturfing” où des foules d’utilisateurs fournissent des informations volontairement biaisées pour promouvoir leurs intérêts, comme le fait qu’un groupe politique soutient le vote que les faits de leurs adversaires sont faux. Tout en évitant parfois de prendre des positions dures sur les questions, Zuckerberg était par ailleurs relativement logique et cohérent.

A découvrir également : TCL lancera son premier modèle pliable l'année prochaine

Politiques et coopération avec les gouvernements

Le PDG a abordé sa politique de contenu limite qui rétrograde discrètement les messages qui sont sur le point d’enfreindre sa politique contre la nudité, les discours haineux, etc. qui sont autrement les plus sensationnels et les plus diffusés mais qui ne font pas sentir bien les gens. M. Zuckerberg a noté certains progrès à cet égard, affirmant que ” bon nombre des mesures que nous avons prises au cours de la dernière année étaient axées sur ce problème, ce qui améliore vraiment la qualité du service et les gens apprécient cela “.

Cela s’aligne avec le fait que Zuckerberg envisage le rôle de Facebook en tant que ” fiduciaire de données ” où, plutôt que de céder aux désirs des utilisateurs ou de donner la priorité au cours de ses actions à court terme, l’entreprise essaie de faire ce qui est dans le meilleur intérêt à long terme de ses communautés. “Il y a un équilibre difficile à trouver ici – je veux dire, si vous parlez de ce que les gens veulent par rapport à ce qu’ils veulent – vous savez, les préférences révélées des gens sur ce qu’ils font montrent souvent un sens plus profond de ce qu’ils veulent que de ce qu’ils pensent vouloir ” a-t-il dit. Essentiellement, les gens peuvent taper sur l’appât même s’il ne les fait pas se sentir bien.

Au sujet de la collaboration avec les gouvernements, M. Zuckerberg a expliqué que les incitatifs n’étaient pas toujours harmonisés, comme lorsque les organismes d’application de la loi surveillent quelqu’un qui donne accidentellement des indices sur ses crimes et ses collaborateurs. Le gouvernement et la société pourraient bénéficier de cette surveillance continue, mais Facebook pourrait vouloir suspendre immédiatement le compte s’il le découvre  : ” Mais au fur et à mesure que vous établissez les relations et la confiance, vous pouvez arriver à ce genre de relation où ils peuvent aussi vous dire ” Hé, voilà où nous en sommes “, ce qui implique que Facebook pourrait volontairement permettre à cette personne de continuer à se mettre en cause pour assister les autorités.

Mais les désaccords entre les gouvernements peuvent éclater, note Zuckerberg, ” des employés ont été jetés en prison parce que nous avons reçu des ordonnances judiciaires nous obligeant à communiquer des données que nous ne pourrions probablement pas le faire de toute façon, mais nous ne pouvons pas parce qu’elles sont cryptées ” ; c’est probablement une référence à l’arrestation en 2016 du vice-président de Facebook pour l’Amérique latine Diego Dzodan, qui a été condamné pour le codage WhatsApp qui empêche la société de fournir la preuve dans une affaire de drogue.

Décentraliser Facebook

Les compromis entre le chiffrement et la décentralisation ont été un thème central. Il a expliqué comment, alors que de nombreuses personnes craignent que le chiffrement ne masque des activités illégales ou offensantes, Facebook n’a pas besoin de jeter un coup d’œil au contenu réel d’une personne pour déterminer qu’elle viole la politique. “L’une des conclusions – je suppose, quelque peu surprenante pour moi – des deux dernières années de travail sur la gouvernance et l’application du contenu est qu’il est souvent beaucoup plus efficace d’identifier les faux comptes et les mauvais acteurs en amont d’eux qui font quelque chose de mal par des modèles d’activité plutôt que de regarder le contenu “, a déclaré Zuckerberg.

Alors que Facebook met rapidement sur pied une équipe de blocage pour lancer une cryptocouronne pour les paiements sans frais ou une couche d’identité pour les applications décentralisées, Zittrain s’interroge sur la possibilité de laisser les utilisateurs contrôler les autres applications auxquelles ils donnent les informations de leur profil sans Facebook comme intermédiaire.

SAN JOSE, CA – MAI 01 : Mark Zuckerberg, PDG de Facebook (Photo par Justin Sullivan/Getty Images)

M. Zuckerberg a souligné qu’à l’échelle de Facebook, passer à une architecture distribuée moins efficace serait extrêmement ” intense en termes de calcul “, même si cela pourrait être possible à terme. Au lieu de cela, il a dit : “Une des choses auxquelles j’ai beaucoup réfléchi, c’est l’utilisation de la chaîne de blocs que je suis potentiellement intéressant – bien que je n’aie pas trouvé un moyen d’y parvenir, c’est l’authentification et l’accès à vos informations et à différents services. Donc, en gros, remplacer la notion de ce que nous avons avec Facebook Connect par quelque chose qui est entièrement distribué”, ce qui pourrait être intéressant pour les développeurs qui savent que Facebook ne pourrait pas les couper des utilisateurs.

Le problème est que si un développeur abusait des utilisateurs, Zuckerberg craint que “dans un système entièrement distribué, il n’y aurait personne qui pourrait couper l’accès des développeurs. Donc, la question est de savoir si vous avez un système entièrement distribué, d’une part, il donne énormément de pouvoir aux individus, mais cela soulève vraiment des enjeux et vous amène à vous demander quelles sont les limites du consentement et comment les gens peuvent vraiment savoir qu’ils donnent leur consentement à une institution ?”.

Pas de “Payer pour la vie privée”

Mais les commentaires de Zuckerberg sur les questions secondaires soulevées par la question de savoir où Facebook devrait laisser les gens payer pour retirer des publicités sont peut-être les plus nouveaux et les plus urgents : ” Vous commencez à vous poser une question de principe : ” Allons-nous laisser les gens payer pour avoir des contrôles différents de ceux des autres ? et ma réponse à cela est un non difficile “. Pourtant, certains, dont moi-même, ont suggéré qu’un abonnement premium sans publicité à Facebook pourrait l’aider à maximiser la collecte de données et l’engagement, bien qu’il pourrait briser la machine à revenus de Facebook en retirant les utilisateurs les plus riches et les plus désirés du pool de ciblage publicitaire.

“Ce que je dis, c’est qu’en ce qui concerne l’utilisation des données, je ne crois pas que ce soit quelque chose que les gens devraient acheter. Je pense que les principes que nous avons en matière de données doivent être uniformément accessibles à tous. Pour moi, c’est un principe très important”, poursuit Zuckerberg, “c’est comme si vous pouviez avoir une conversation pour savoir si vous devriez pouvoir payer et ne pas voir les annonces. Ce n’est pas une question morale pour moi. Mais la question de savoir si vous pouvez payer pour avoir différents contrôles de confidentialité semble fausse.”

En mai dernier, M. Zuckerberg a annoncé que Facebook créerait un bouton Clear History en 2018 qui supprimerait toutes les données de navigation Web que le réseau social a recueillies à votre sujet, mais que l’intégration profonde de ces données dans les systèmes de l’entreprise a retardé le lancement. Les recherches suggèrent que les utilisateurs ne veulent pas avoir à se déconnecter de tous leurs services Facebook Connected, mais qu’ils aimeraient cacher certaines données à l’entreprise.

“Un historique clair est une condition préalable, je pense, pour pouvoir faire quelque chose comme des abonnements. Parce que, par exemple, en partie, ce que quelqu’un voudrait faire s’il allait vraiment payer pour une version non publicitaire où ses données n’étaient pas utilisées dans un système comme celui-là, vous voudriez avoir un contrôle pour que Facebook n’ait pas accès ou n’utilise pas ces données ou les associer à votre compte. Et par principe, nous n’allons pas offrir un tel contrôle à ceux qui paient.”

De toutes les excuses, promesses et prédictions que Zuckerberg a faites récemment, cet engagement pourrait inspirer le plus de confiance. Alors que certains pourraient penser que Zuckerberg est un tyran de l’information qui cherche à absorber et à exploiter le plus possible nos renseignements personnels, il y a au moins des limites qu’il n’est pas prêt à franchir. Facebook pourrait essayer de vous faire payer pour la confidentialité, mais il ne le fera pas. Et étant donné la domination de Facebook dans les réseaux sociaux et la messagerie, plus le contrôle de vote de Zuckerberg sur l’entreprise, un homme plus avide pourrait rendre l’Internet bien pire.

—

TRANSCRIPTION – MARK ZUCKERBERG À HARVARD / PREMIER DÉFI PERSONNEL 2019

Jonathan Zittrain : Très bien. Très bien. Merci, Mark, d’être venu nous parler, à moi et à nos étudiants du programme Techtopia et de mon cours “Internet et société” à la Harvard Law School. Nous sommes très heureux d’avoir l’occasion de parler d’un certain nombre de questions et nous devrions nous y mettre tout de suite. Donc, la vie privée, l’autonomie et les fiduciaires de l’information.

Mark Zuckerberg : Très bien !

Jonathan Zittrain : J’adorerais en parler.

Mark Zuckerberg : Ouais ! J’ai lu votre article dans le New York Times.

Jonathan Zittrain : Celui avec le titre qui disait :”Mark Zuckerberg peut réparer ce bordel” ?

Mark Zuckerberg : Oui.

Jonathan Zittrain : Ouais.

Mark Zuckerberg : Même si c’était l’année dernière.

<abattage> <abattage

Jonathan Zittrain : C’est vrai ! C’est vrai ! Vous suggérez que c’est réparé ?

<abattage> <abattage

Mark Zuckerberg : Non. Non. Non.

<abattage> <abattage

Jonathan Zittrain : D’accord, très bien. Alors…

Jonathan Zittrain : Je suggère que je suis curieux de savoir si vous pensez toujours que nous pouvons réparer ce gâchis ?

Jonathan Zittrain : Ah ! <abattage>

Jonathan Zittrain : J’espère- <l’abattage>

Jonathan Zittrain : “L’espoir est éternel”

Mark Zuckerberg : Ouais, c’est ça.

Jonathan Zittrain : C’est ma devise. Permettez-moi donc de caractériser brièvement l’idée que la monnaie et l’échafaudage qui l’accompagne proviennent de mon collègue, Jack Balkin, de Yale. Et nous l’avons perfectionné tous les deux. Il y a un nombre standard de questions sur la protection de la vie privée avec lesquelles vous pourriez avoir une certaine familiarité, concernant les personnes qui transmettent de l’information qu’elles savent qu’elles transmettent ou dont elles ne sont pas si sûres, mais des “excréments de souris” comme on les appelait quand elles courent dans les poutres de l’Internet et laissent des traces. Et ensuite, la façon habituelle de parler de cela est de s’assurer que les choses ne vont pas là où on ne veut pas qu’elles aillent. C’est ce que nous appelons la “vie privée informationnelle”. Nous ne voulons pas que les gens sachent des choses que nous voulons peut-être que nos amis sachent seulement. Et sur un site comme Facebook, on est censé pouvoir modifier ses décors et dire : “Donnez-les à ceci et non à cela.” Mais il y a aussi des façons dont les choses que nous partageons avec le consentement pourraient encore être utilisées contre nous et on a l’impression que ” Eh bien, vous avez consenti ” ne mettra peut-être pas fin à la discussion. Et l’analogie que mon collègue Jack a utilisée est celle d’un médecin et d’un patient ou d’un avocat et d’un client ou- parfois en Amérique, mais pas toujours- d’un conseiller financier et d’un client qui dit que ces professionnels ont une certaine expertise, qu’ils ont confiance dans toutes sortes de renseignements sensibles de leurs clients et patients et, donc, qu’ils ont un devoir supplémentaire de défendre leurs intérêts même si leurs propres intérêts ne sont pas en accord. Et, donc, peut-être juste une petite hypoglycémie pour nous aider à commencer. J’ai écrit un article en 2014, que vous avez peut-être lu, qui était hypothétique au sujet des élections, dans lequel on pouvait lire : ” Hypothétiquement, imaginez que Facebook avait une opinion sur quel candidat devrait gagner et ils ont rappelé aux gens susceptibles de voter pour le candidat préféré que c’était le jour du scrutin “, et aux autres qu’ils avaient envoyé une photo chat. Est-ce que ce serait mal ? Et je trouve – je n’ai aucune idée si c’est illégal ; cela me semble mal et il se peut que l’approche fiduciaire saisisse ce qui le rend mal.

Mark Zuckerberg : D’accord, c’est bon. Donc, je pense qu’on pourrait probablement passer toute l’heure à en parler ! <l’abattage>

Mark Zuckerberg : J’ai donc lu votre article d’opinion et j’ai également lu le blog de Balkin sur les fiduciaires de l’information. Et j’ai aussi eu une conversation avec lui.

Jonathan Zittrain : Super.

Mark Zuckerberg : Et à première vue, en lisant ça, ma réaction est qu’il y a beaucoup de choses qui ont du sens ici. N’est-ce pas ? L’idée que nous ayons une relation fiduciaire avec les personnes qui utilisent nos services est en quelque sorte intuitive – c’est notre façon de penser à la façon dont nous construisons ce que nous construisons. Donc, en lisant cela, c’est comme si beaucoup de gens semblaient avoir l’impression erronée que lorsque nous préparons les nouvelles et que nous faisons le classement, nous avons une équipe de gens qui s’efforcent de maximiser le temps que les gens passent, mais ce n’est pas l’objectif que nous leur donnons. Nous disons aux membres de l’équipe, “Produisez le service” qui, selon nous, sera de la plus haute qualité – nous essayons de faire en sorte que les gens viennent nous voir et nous disent, comme il se doit, du contenu que nous pourrions potentiellement montrer, ce qu’ils veulent voir, puis nous construisons des modèles qui peuvent prévoir cela, et qui peuvent créer ce service.

Jonathan Zittrain : Et, au fait, ça a toujours été le cas ?

Mark Zuckerberg : Non.

Jonathan Zittrain :…était-ce un endroit où vous avez pu faire quelques ajustements de cap ?

Mark Zuckerberg : Grâce à des ajustements de cap. Je veux dire, vous commencez par utiliser des signaux plus simples comme ceux sur lesquels les gens cliquent dans le flux, mais ensuite vous apprenez assez rapidement, “Hé, ça vous amène à l’optimum local,” non ? Où si vous vous concentrez sur ce sur quoi les gens cliquent et prédisez ce sur quoi les gens cliquent, alors vous choisissez pour l’appât de clic. N’est-ce pas ? Donc, assez rapidement, vous vous rendez compte, à partir de vrais commentaires, de vraies personnes, que ce n’est pas vraiment ce que les gens veulent. Vous n’obtiendrez pas le meilleur service en faisant cela. Donc, on fait venir des gens et on fait venir ces groupes d’experts – nous appelons cela “aller à la vérité de terrain” – qui montrent aux gens tous les candidats pour ce qui peut leur être montré et on leur demande de dire : “Quelle est la chose la plus significative que j’aimerais que ce système nous montre ? Donc, tout cela est en quelque sorte une façon de dire que notre propre image de nous-mêmes et ce que nous faisons, c’est que nous agissons en tant que fiduciaires et essayons de bâtir les meilleurs services pour les gens. Là où je pense que cela finit par devenir intéressant, c’est la question de savoir qui décide au sens juridique ou politique de ce qui est dans l’intérêt supérieur des gens ? N’est-ce pas ? Ainsi, nous arrivons tous les jours et nous nous disons : ” Hé, nous construisons un service où nous classons les fils de nouvelles en essayant de montrer aux gens le contenu le plus pertinent avec une hypothèse qui est soutenue par des données ; que, en général, les gens veulent que nous leur montrions le contenu le plus pertinent. Mais, à un certain niveau, vous pourriez vous poser la question suivante  : ” Qui décide que le classement des fils d’actualités ou l’affichage d’annonces pertinentes ” ou toute autre chose sur laquelle nous choisissons de travailler sont réellement dans l’intérêt des gens. Et nous faisons de notre mieux pour essayer de mettre en place les services que nous pensons être les meilleurs. En fin de compte, une grande partie de tout cela est fondée sur “Les gens choisissent de l’utiliser”. N’est-ce pas ? Parce que, de toute évidence, ils en tirent une certaine valeur. Mais il y a aussi toutes ces questions, comme vous l’avez dit, sur les cas où les gens peuvent effectivement donner leur consentement ou non.

Jonathan Zittrain : Oui.

Mark Zuckerberg : Donc, je pense qu’il y a beaucoup de questions intéressantes à déballer sur la façon de mettre en œuvre un modèle comme celui-là. Mais, à un niveau élevé, je pense, vous savez, que l’une des choses auxquelles je pense, c’est que nous dirigeons cette grande entreprise ; il est important dans la société que les gens aient confiance dans les institutions de la société. De toute évidence, je pense que nous sommes maintenant dans une situation où les gens ont, à juste titre, beaucoup de questions au sujet des grandes sociétés Internet, Facebook en particulier, et je pense qu’en arriver à un point où il y a la bonne réglementation et les bonnes règles en place fournit une sorte de cadre social où les gens peuvent avoir confiance que ces sociétés fonctionnent dans un cadre que nous avons tous approuvé. C’est mieux que de faire ce qu’ils veulent. Et je pense que cela donnerait confiance aux gens. Il est donc très important de savoir quel est ce cadre, à mon avis. Et je suis sûr qu’on en reparlera.

Jonathan Zittrain : Oui.

Mark Zuckerberg :… dans beaucoup de domaines de contenu aujourd’hui. Mais pour en venir à la question de savoir comment déterminer ce qui est dans le meilleur intérêt des gens, si ce n’est dans l’intérêt des gens eux-mêmes “, Jonathan Zittrain : Oui.

Mark Zuckerberg :… est une question très intéressante.

Jonathan Zittrain : Oui, donc, nous devrions certainement en parler. Donc, à notre ordre du jour, il y a la question “Qui décide ?

Mark Zuckerberg : D’accord.

Jonathan Zittrain : D’autres points à l’ordre du jour incluent – comme vous le dites, le cadre fiduciaire vous semble agréable – les médecins, les patients, les utilisateurs de Facebook. Et je t’entends dire que c’est à peu près là où tu veux finir de toute façon. Il y a des questions intéressantes sur ce que les gens veulent par rapport à ce qu’ils veulent.

Mark Zuckerberg : Oui.

Jonathan Zittrain : Les gens diront : “Le 1er janvier, ce que je veux -” résolution du Nouvel An – “c’est un abonnement au gymnase.” Et puis le 2 janvier, ils ne veulent pas aller au gymnase. Ils veulent aller au gymnase, mais ils n’y arrivent jamais. Et puis, bien sûr, un modèle d’affaires de rémunération pour toute l’année à l’avance et ils savent que vous ne reviendrez jamais, se développe autour de cela. Et j’imagine qu’il y a un domaine précis sur lequel il faudrait s’attarder un instant, celui de la publicité, peut-être la dichotomie entre la personnalisation et le fait de se lancer dans l’exploitation ? Je sais que Facebook, par exemple, interdit les prêts sur salaire du mieux qu’il peut.

Mark Zuckerberg : Mm-hm.

Jonathan Zittrain : C’est juste une question de fond : “D’accord, on ne veut pas faire ça.”

Mark Zuckerberg : Mm-hm.

Jonathan Zittrain : Mais quand on pense à une bonne personnalisation pour que Facebook sache que j’ai un chien et non un chat, et qu’un targeter peut alors me proposer de la nourriture pour chien et non pour chat. Que diriez-vous, si ce n’est pas maintenant, d’un jour futur où une plateforme publicitaire pourra offrir à un publicitaire une certaine sensation de “Je viens de perdre mon animal, je suis vraiment contrarié, je suis prêt à prendre des décisions rapides que je pourrais regretter plus tard, mais quand je les prends-“

Mark Zuckerberg : Mm-hm.

Jonathan Zittrain : “Je vais les faire.” Alors, c’est le moment parfait pour jouer au golf.

Mark Zuckerberg : Oui.

Jonathan Zittrain : – une zircone cubique ou quoi que ce soit d’autre- .

Mark Zuckerberg : Mm-hm.

Jonathan Zittrain : Il me semble qu’une approche fiduciaire consisterait à dire, idéalement – je ne sais pas comment nous y arrivons, mais idéalement, nous ne permettrions pas à quelqu’un qui utilise les renseignements que nous avons recueillis de savoir qu’il se trouve dans une situation difficile – que ce genre d’approche soit autorisée…

Mark Zuckerberg : Oui.

Jonathan Zittrain :… et ensuite de les exploiter. Mais je ne sais pas. Je ne sais pas comment tu pourrais penser à quelque chose comme ça. Pourriez-vous écrire un algorithme pour détecter quelque chose comme ça ?

Mark Zuckerberg : Eh bien, je pense que l’un des principes clés est que nous essayons de diriger cette entreprise pour le long terme. Et je pense que les gens pensent que beaucoup de choses qui – si vous essayiez juste d’optimiser les profits pour le prochain trimestre ou quelque chose comme ça, vous voudriez peut-être faire des choses que les gens pourraient aimer à court terme, mais qui, à long terme, finiront par vous en vouloir. Mais si vous tenez vraiment à bâtir une communauté et à réaliser cette mission et à bâtir l’entreprise à long terme, je pense que vous êtes beaucoup plus aligné que ce que les gens pensent souvent que les entreprises sont. Et cela nous ramène à l’idée d’avant, où je pense que notre image de nous-mêmes agit en grande partie comme- dans ce genre de relation fiduciaire comme vous le dites- et à travers – nous pourrions probablement passer par beaucoup d’exemples différents. Je veux dire, nous ne voulons pas montrer aux gens du contenu sur lequel ils vont cliquer et s’engager, mais ils ont l’impression de perdre leur temps après. Où nous ne voulons pas leur montrer des choses qu’ils vont prendre une décision basée sur cela et qu’ils vont regretter plus tard. Je veux dire, il y a un équilibre difficile à trouver ici, c’est-à-dire- si vous parlez de ce que les gens veulent par rapport à ce qu’ils veulent, vous savez, souvent les préférences révélées des gens sur ce qu’ils font montrent un sens plus profond de ce qu’ils veulent que de ce qu’ils pensent vouloir désirer. Donc, je pense qu’il y a une question entre le moment où quelque chose est exploiteur et le moment où quelque chose est réel, mais ce n’est pas ce que vous diriez que vous voulez.

Jonathan Zittrain : Oui.

Mark Zuckerberg : Et c’est une chose très difficile à atteindre.

Jonathan Zittrain : Oui.

Mark Zuckerberg : Mais dans bon nombre de ces cas, mon expérience de la gestion de l’entreprise m’a appris que l’on commence à construire un système, que l’on a des signaux relativement simples pour commencer et que l’on construit des modèles de plus en plus complexes avec le temps qui tentent de tenir davantage compte de ce qui préoccupe les gens. Et il y a tous ces exemples que nous pouvons passer en revue. Je pense que les flux d’informations et les publicités sont probablement les deux exemples de classement les plus complexes.

Jonathan Zittrain : Oui.

Mark Zuckerberg :… que nous avons. Mais c’est comme si nous parlions il y a une seconde, quand nous avons commencé avec les systèmes, je veux dire, juste avec les flux d’informations, mais vous pourriez aussi le faire sur les publicités, vous savez, les signaux les plus naïfs sont ce sur quoi les gens cliquent ou ce que les gens “aiment”. Mais ensuite, on se rend compte très rapidement que ce n’est pas le cas, qu’il s’agit d’une approximation, mais c’est une approximation très grossière de la vérité de base de ce à quoi les gens tiennent réellement. Donc, ce que vous voulez vraiment obtenir, c’est autant que possible, c’est d’amener de vraies personnes à regarder les vrais candidats pour le contenu et à vous dire d’une manière multidimensionnelle ce qui compte pour eux et à essayer de construire des systèmes qui modèlent cela. Et puis tu veux être un peu conservateur pour éviter les inconvénients. Donc, dans votre exemple des prêts sur salaire, et lorsque nous en avons déjà parlé dans le passé, vous m’avez posé la question suivante : “Comment savez-vous quand un prêt sur salaire va être exploité ?”, n’est-ce pas ? “Si vous visez quelqu’un qui est dans une mauvaise situation ?” Et notre réponse est : “Eh bien, nous ne savons pas vraiment quand ce sera de l’exploitation, mais nous pensons que l’ensemble de la catégorie présente un risque potentiel énorme, alors nous l’interdisons…

Jonathan Zittrain : C’est vrai. Ce qui rend l’affaire facile.

Mark Zuckerberg : Oui. Et je pense que les cas les plus difficiles sont ceux où il y a des avantages et des inconvénients importants et où vous voulez peser le pour et le contre. Ainsi, par exemple, une fois que nous avons commencé à faire un très gros effort pour prévenir l’ingérence électorale, l’une des idées initiales qui sont ressorties était “Pourquoi ne pas simplement interdire toutes les publicités qui ont un lien avec tout ce qui est politique ? Et elles, vous les abordez assez rapidement, d’accord, eh bien, qu’est-ce qu’une publicité politique ? La définition juridique classique est celle des élections et des candidats, mais ce n’est pas vraiment ce que la Russie et d’autres pays faisaient en premier lieu. N’est-ce pas ? Beaucoup des problèmes que nous avons vus ont trait aux publicités sur les enjeux, et c’est vrai, et il s’agit essentiellement d’une division sur ce que sont les enjeux sociaux. Donc, d’accord, je ne pense pas que vous allez entraver le discours des gens et leur capacité à promouvoir et à défendre des causes qui les préoccupent. La question est donc de savoir comment s’assurer que les personnes qui ne sont pas censées participer à ces débats n’y participent pas ou qu’au moins, vous faites preuve de la transparence voulue. Mais je pense que nous nous sommes un peu écartés de la question initiale, Jonathan Zittrain : Oui.

Mark Zuckerberg :… mais le… mais oui. Alors, revenons à l’endroit où vous étiez.

Jonathan Zittrain : Eh bien, voici… et c’est peut-être un moyen de faire avancer les choses, ce qui est : Une plateforme aussi complète que Facebook offre de nos jours beaucoup d’occasions de façonner ce que les gens voient et peut-être de les aider avec ces nudges, qu’il est temps d’aller au gym ou de les éviter de tomber dans les déprédations du prêt sur salaire. Et c’est une question de tant que la plateforme pour le faire, a-t-elle maintenant l’obligation éthique de le faire, d’aider les gens à avoir une bonne vie ?

Mark Zuckerberg : Mm-hm.

Jonathan Zittrain : Et je crains qu’il ne soit trop lourd pour une entreprise d’avoir à trouver, disons, la source d’information la plus raisonnable pour chacun d’entre eux… combien ? Deux milliards et demi d’utilisateurs actifs ? Quelque chose comme ça.

Mark Zuckerberg : Ouais. Sur cet ordre.

Jonathan Zittrain : Tout le temps et il y a peut-être des façons de commencer un peu l’ingénierie d’une chose qui dirait : “D’accord, avec le recul, y a-t-il des façons d’architecturer les choses pour que les enjeux ne soient pas aussi élevés, ne sont-ils pas aussi concentrés sur la seule question : “Bon sang, Facebook fait-il bien les choses ?” C’est comme s’il n’y avait qu’un seul journal au monde ou un ou deux, et c’est comme, “Eh bien, ce que le New York Times choisit de mettre sur sa page d’accueil, s’il était le seul journal, aurait eu une importance démesurée”.

Mark Zuckerberg : Mm-hm.

Jonathan Zittrain : Ainsi, d’un point de vue technique, un certain nombre d’élèves présents dans cette salle ont eu l’occasion d’entendre Tim Berners-Lee, inventeur du World Wide Web, et il a une nouvelle idée pour quelque chose appelé “Solid”. Je ne sais pas si vous avez entendu parler de Solid. C’est plus un protocole qu’un produit. Donc, il n’y a pas de voiture pour quitter le terrain aujourd’hui. Mais son idée est de permettre aux gens d’avoir les données qu’ils génèrent lorsqu’ils circulent sur le Web dans leur propre type de casier à données. Maintenant, pour quelqu’un comme Tim, cela pourrait signifier littéralement dans un casier sous son bureau et il pourrait se réveiller au milieu de la nuit et voir où sont ses données. Pour d’autres, cela pourrait signifier l’Irak quelque part, gardé peut-être par un fiduciaire qui veille sur eux, la façon dont nous mettons de l’argent dans une banque et nous pouvons dormir la nuit en sachant que les banquiers le sont – ce n’est peut-être pas la meilleure analogie en 2019, mais regarder.

<abattage> <abattage

Mark Zuckerberg : Nous y arriverons.

Jonathan Zittrain : Nous y arriverons. Mais Solid dit que si vous faisiez cela, les gens pourraient alors – ou leurs procurations utiles – dire : “D’accord, Facebook arrive. Il veut que je lui transmette les données suivantes, y compris les données qu’il a générées à mon sujet au fur et à mesure que je les utilise, mais qu’il les conserve dans mon casier et qu’il doit en quelque sorte revenir à mon puits pour puiser l’eau chaque fois. Et comme ça, si je veux passer à Schmacebook ou quelque chose comme ça, il est toujours dans mon puits et je peux immédiatement donner la permission à Schmacebook de le voir et je n’ai pas besoin de faire une sorte de transfert de données et ensuite de le recharger. C’est une façon entièrement distribuée de penser les données. Et je suis curieux de savoir si, du point de vue de l’ingénierie, cela semble faisable avec la taille et le nombre de rouets que Facebook possède et si cela ressemble à une…

Mark Zuckerberg : Oui-

Jonathan Zittrain :…et je suis curieux de connaître votre réaction à une idée comme celle-là.

Mark Zuckerberg : Donc, je pense que c’est très intéressant. Certes, le niveau de calcul que Facebook est en train de faire et tous les services que nous construisons est vraiment intense à faire d’une manière distribuée. Je veux dire, je pense qu’en tant que modèle de base, je pense que nous allons renforcer la capacité du centre de données au cours des cinq prochaines années et que notre plan pour ce que nous pensons que nous devons faire est de l’ordre de tout ce que font AWS et Google Cloud pour aider tous leurs clients. Donc, d’accord, donc, c’est comme si c’était une chose relativement intense sur le plan informatique.

Avec le temps, vous supposez que vous obtiendrez plus de calculs. Donc, les choses décentralisées qui sont moins efficaces sur le plan du calcul seront plus difficiles – désolé, elles sont plus difficiles à calculer, mais peut-être qu’éventuellement vous aurez les ressources de calcul pour le faire. Je pense que les questions les plus intéressantes ne sont pas la faisabilité à court terme, mais les questions philosophiques de la bonté d’un tel système.

Donc, une question, si vous le voulez, pour que nous puissions entrer dans la décentralisation, l’une des choses auxquelles j’ai beaucoup réfléchi, c’est l’utilisation de la chaîne de blocage que je suis potentiellement intéressant, bien que je n’aie pas trouvé un moyen d’y parvenir, c’est l’authentification et le fait de donner accès à vos renseignements et à différents services. Donc, en gros, remplacer la notion de ce que nous avons avec Facebook Connect par quelque chose qui est entièrement distribué.

Jonathan Zittrain : “Voulez-vous vous connecter avec votre compte Facebook ?” est le statu quo.

Mark Zuckerberg : En gros, vous prenez vos informations, vous les stockez dans un système décentralisé et vous avez le choix de vous connecter à différents endroits sans passer par un intermédiaire, ce qui est un peu comme ce que vous suggérez ici-

Jonathan Zittrain : Oui.

Mark Zuckerberg :… dans un sens. Ok, il y a beaucoup de choses que je pense qu’il y a là-dedans qui seraient très attrayantes. Vous savez, pour les développeurs, l’une des choses qui est vraiment troublante quand on travaille avec notre système, ou le système de Google d’ailleurs, ou quand on a des services via l’app store d’Apple, c’est que vous ne voulez pas avoir un intermédiaire entre vous – les gens qui utilisent votre service et vous, d’accord, où quelqu’un peut simplement dire, “Hé, nous devons suivre votre politique et sinon, vous pouvez couper l’accès aux gens que nous servons”. C’est une situation difficile et troublante. Je pense que les développeurs-

Conversation en chevauchement> < Conversation en chevauchement> < Conversation en chevauchement> Conversation en chevauchement

Jonathan Zittrain :… vous faites référence à un incident récent.

Mark Zuckerberg : Non, eh bien, j’étais… eh bien, c’est sûr.

Mark Zuckerberg : Mais je pense que ça souligne le fait que tous les développeurs ressentent probablement ça : Les gens utilisent n’importe quelle boutique d’applications mais aussi se connecter avec Facebook, avec Google ; n’importe lequel de ces services, vous voulez une relation directe avec les gens que vous servez.

Jonathan Zittrain : Oui.

Mark Zuckerberg : Maintenant, d’accord, mais regardons le revers de la médaille. Donc, ce que nous avons vu au cours des deux dernières années avec Cambridge Analytica, c’est essentiellement un exemple où les gens ont choisi de prendre des données qu’ils – certaines étaient leurs données, d’autres des données qu’ils avaient vues de leurs amis, non ? Parce que si vous voulez faire des choses comme faire en sorte que les services alternatifs puissent créer un fil d’actualités concurrent, alors vous devez être capable de le faire pour que les gens puissent apporter les données qu’ils vous voient[ph ?] dans le système. Ok, théoriquement, les gens ont choisi de donner leurs données à un développeur affilié à l’Université de Cambridge, qui est une institution très respectée, puis ce développeur a vendu les données à la société Cambridge Analytica, ce qui est en violation de nos politiques. Donc, on a coupé l’accès aux développeurs. Et, bien sûr, dans un système entièrement distribué, il n’y aurait personne qui pourrait couper l’accès des développeurs. Donc, la question est de savoir si vous avez un système entièrement distribué, d’une part, il habilite considérablement les individus, mais il soulève vraiment des enjeux et vous vous demandez quelles sont les limites du consentement et comment les gens peuvent vraiment savoir qu’ils donnent leur consentement à une institution ?

À certains égards, il est beaucoup plus facile de réglementer et de demander des comptes à de grandes entreprises comme Facebook ou Google, parce qu’elles sont plus visibles et plus transparentes que la longue liste de services avec lesquels les gens choisissent d’interagir directement. Donc, je pense que c’est une question sociale très intéressante. Dans une certaine mesure, je pense que l’idée d’aller dans le sens de l’authentification par chaîne de blocs est moins axée sur la technologie et la capacité à le faire. Je pense que si vous étiez en train de décentraliser complètement Facebook, cela nécessiterait des calculs massifs, mais je suis sûr que nous pourrions faire une authentification totalement décentralisée si nous le voulions. Je pense que la vraie question est de savoir si c’est ce que vous voulez vraiment ?

Jonathan Zittrain : Oui.

Mark Zuckerberg : N’est-ce pas ? Et je pense qu’il y aurait plus de cas où, oui, les gens ne pourraient pas avoir d’intermédiaire, mais il y aurait aussi plus de cas d’abus et les recours seraient beaucoup plus difficiles.

Jonathan Zittrain : Oui. Ce que je vous entends dire, c’est que les gens qui font leurs affaires en ligne génèrent des données à leur sujet qui sont très précieuses, sinon pour eux-mêmes, sinon pour les autres qui pourraient interagir avec eux. Et plus ils sont habilités, éventuellement par le biais d’un système distribué, à décider où vont ces données, avec qui ils veulent les partager, plus ils pourraient être exposés à l’exploitation. C’est un véritable dilemme.

Mark Zuckerberg : Oui, oui.

Jonathan Zittrain :…parce que je suis un grand fan de la décentralisation.

Mark Zuckerberg : Oui, oui.

Jonathan Zittrain : Mais je vois aussi le problème. Et peut-être que l’une des réponses est qu’il y a des données qui sont tellement toxiques qu’il n’y a pas de récipient dans lequel on devrait les mettre ; elles pourraient engloutir un tout ou quelque chose, au sens métaphorique du terme. Mais, encore une fois, des données inoffensives peuvent si rapidement être rassemblées en quelque chose d’effrayant. Donc, je ne sais pas si la prochaine élection-

Conversation en chevauchement> < Conversation en chevauchement> < Conversation en chevauchement> Conversation en chevauchement

Mark Zuckerberg : Ouais. Je veux dire, je pense qu’en général, il s’agit d’assembler des données à grande échelle pour obtenir une signification différente de celle des points de données individuels.

Jonathan Zittrain : Oui.

Mark Zuckerberg : Et je pense que c’est là tout le défi. Mais je suis philosophiquement d’accord avec vous pour dire que je veux dire que je veux penser au travail que nous faisons en tant que force décentralisatrice dans le monde, non ? Si je pense que les gens de ma génération ont adopté la technologie, c’est en grande partie parce que nous croyons que la technologie donne du pouvoir aux individus et qu’elle n’est pas massivement centralisatrice. Maintenant que vous avez bâti un tas de grandes entreprises dans le processus, je pense que ce qui s’est en grande partie produit, c’est que les gens d’aujourd’hui ont plus de voix, plus de capacité à s’affilier à qui ils veulent, et à rester en contact avec les gens, la capacité de former des communautés comme ils ne pouvaient le faire auparavant, et je pense que c’est une façon massive d’autonomiser les gens et c’est le côté philosophie dans lequel je suis plutôt. C’est pourquoi je songe à revenir à l’authentification décentralisée ou à l’authentification par chaîne de blocage. C’est pourquoi je me demande comment vous pourriez faire en sorte que cela fonctionne, parce que d’après mon orientation, c’est d’essayer d’aller dans cette direction.

Jonathan Zittrain : Oui.

Mark Zuckerberg : Un exemple où je pense que nous sommes généralement beaucoup plus près d’aller dans cette direction est le cryptage. Je veux dire, c’est l’un des grands débats d’aujourd’hui, c’est de savoir quelles sont les limites à respecter pour qu’un service de messagerie soit crypté. Et il y a tous ces avantages du point de vue de la protection de la vie privée et de la sécurité, mais, d’un autre côté, si ce que nous essayons de faire-une des grandes questions que nous nous débattons avec la gouvernance du contenu et où se situe la limite entre la libre expression et, je suppose, la vie privée d’un côté, mais la sécurité de l’autre, les gens faisant de très mauvaises choses, oui, parfois même. Et je pense que les gens s’attendent à juste titre à ce que nous fassions tout notre possible pour empêcher les terroristes de recruter des gens ou d’exploiter des enfants ou de faire des choses différentes. Et le fait d’aller dans le sens d’un cryptage accru de ces systèmes réduit certainement certains des signaux auxquels nous aurions accès pour pouvoir effectuer une partie de ce travail vraiment important.

Mais nous voici dans cette position où nous exécutons WhatsApp, qui est le plus grand service de chiffrement de bout en bout au monde ; nous exécutons Messenger, qui est un autre des plus grands systèmes de messagerie au monde où le chiffrement est une option, mais ce n’est pas la solution par défaut. Je ne pense pas qu’à long terme, il soit vraiment logique d’avoir des systèmes différents avec des politiques très différentes à cet égard. Je pense que c’est une sorte de question philosophique où l’on veut savoir où l’on veut en venir. Et, donc, ma question pour vous, maintenant,

Si vous étiez à ma place et que vous deviez appuyer sur un bouton, c’est probablement trop désinvolte, parce qu’il y a beaucoup de travail à faire dans ce domaine, et dans un sens pour ces deux services, qui penseriez-vous à cela ?

Jonathan Zittrain : Eh bien, la question que vous posez sur la table, et c’est une question difficile, c’est “Est-ce que c’est bien”, et prenons le cas simple, “que deux personnes communiquent entre elles d’une manière qui rend difficile pour un tiers d’écouter de façon informelle ?” C’est d’accord ? Et je pense que la façon dont nous répondons normalement à cette question est une sorte de ce que l’on pourrait appeler le statu quo, qui n’est pas satisfaisant. C’est ce qui s’est passé.

Mark Zuckerberg : Oui, oui.

Jonathan Zittrain :…ce qui a été le cas est ce qui devrait rester le cas.

Mark Zuckerberg : Oui.

Jonathan Zittrain : Et, donc, pour WhatsApp, c’est comme si WhatsApp, si j’ai bien compris, vous pouviez me corriger si je me trompe, c’est assez difficile d’entrer dans si-

Mark Zuckerberg : C’est entièrement crypté de bout en bout.

Jonathan Zittrain : C’est vrai. Donc, si Facebook reçoit une assignation à comparaître ou un mandat ou quelque chose du nom de votre pays favori.

Mark Zuckerberg : Oui.

Jonathan Zittrain :… et vous vous dites : “Merci d’avoir joué. Nous n’avons rien à…” <conversation qui se chevauchent>

Mark Zuckerberg : Oh, oui, des employés ont été jetés en prison parce que nous avons reçu des ordonnances de la cour nous obligeant à transmettre des données que nous n’aurions probablement pas de toute façon, mais nous ne pouvons pas le faire parce qu’elles sont cryptées.

Jonathan Zittrain : Oui. Et puis, d’autre part, et ce n’est pas aussi propre qu’il pourrait être en théorie, mais Messenger est parfois crypté, parfois pas. S’il n’a pas été chiffré par les utilisateurs, cette citation à comparaître pourrait fonctionner et, plus encore, il pourrait y avoir des systèmes automatisés, soit de la propre initiative de Facebook, soit sous la pression des gouvernements dans le cas général, pas un mandat spécifique, pour dire “Hé, si les phrases suivantes apparaissent, si un témoin dit : “Il s’agit d’un enfant qui veut se faire exploiter”, il devrait être envoyé à un autre. Si c’est déjà le cas et que nous pouvons produire un nombre x de personnes qui ont été identifiées et qu’un certain nombre de crimes ont été évités de cette façon, qui veut être la personne qu’il faut être : “Verrouillez tout !” “On n’en veut plus !” Mais je suppose, pour répondre à votre question, que lorsque je regarde pendant des années plutôt que des semaines ou des mois, la capacité de jeter un coup d’oeil à n’importe quelle conversation entre deux personnes ou entre un petit groupe de personnes ou même d’avoir une machine qui le fait pour vous, alors, vous pouvez simplement établir votre liste d’alerte, vous savez, c’est toujours très simple d’appeler un Orwellian, mais Orwell a un air de pique-assiette. Je veux dire, ça ressemble à un cas classique où vous… la phrase suivante serait”Qu’est-ce qui pourrait mal tourner ?”

Jonathan Zittrain : Et nous pouvons le remplir ! Et cela signifie, cependant, que nous devons nous rendre à l’évidence que si nous choisissons d’autoriser ce genre de communication, il y aura des crimes non résolus qui auraient pu être résolus. Il y aura des crimes qui n’auront pas été évités et qui auraient pu l’être. Et la seule chose qui l’atténue un peu, c’est que ce n’est pas vraiment tout ou rien. Les états modernes de surveillance les plus remarquables du monde, ont beaucoup de flèches dans leur carquois. Et le fait de pouvoir vous assombrir la porte et exiger une certaine forme de surveillance, c’est peut-être la première chose à faire, mais ils ont un plan B, un plan C et un plan D. Et je suppose qu’on en arrive vraiment à quel modèle de menace vous avez affaire ? Si vous pensez que tout le monde est une sorte de menace, pensez aux batailles du copyright il y a 15 ans. Tout le monde est un contrefacteur potentiel. Tout ce qu’ils ont à faire est d’allumer Napster, puis vous voulez une infrastructure technique massive pour empêcher la mauvaise chose. Si ce que vous pensez, c’est que ce sont plutôt quelques pommes vraiment mauvaises et qu’elles ont tendance – lorsqu’elles se rassemblent en ligne ou entre elles – à s’identifier et à envoyer quelqu’un près de chez elles pour écouter avec une tasse à la fenêtre, ce qui est métaphorique. C’est un modèle de menace différent et il se peut qu’il n’en ait pas besoin.

Mark Zuckerberg : Oui.

Jonathan Zittrain : Cela répond-il à votre question ?

Mark Zuckerberg : Ouais, et je pense que je suis généralement d’accord. Je veux dire, j’ai déjà dit publiquement que mon inclination est de déplacer ces services dans le sens d’être tous cryptés, au moins la version de communication privée. En gros, je pense que si vous voulez parler en métaphores, la messagerie est comme le salon des gens, n’est-ce pas ? Et je pense que nous ne voulons certainement pas d’une société où il y a une caméra dans le salon de tout le monde qui regarde le contenu de ces conversations.

Jonathan Zittrain : Même si nous sommes en 2019, les gens sont heureux d’installer des caméras dans leur salon.

Mark Zuckerberg : C’est leur choix, mais je suppose qu’ils installent des caméras dans leur salon, eh bien, pour un certain nombre de raisons, mais-

Jonathan Zittrain : Et Facebook a un appareil photo que vous pouvez aller dans votre salon- <l’abattage> Mark Zuckerberg : C’est-à-dire, je suppose que-

Jonathan Zittrain : Je veux juste que ce soit clair.

<abattage> <abattage

Mark Zuckerberg : Ouais, bien que ce soit crypté dans ce monde.

Jonathan Zittrain : Crypté entre vous et Facebook !

Mark Zuckerberg : Non, non, non, non. Je pense… mais c’est aussi…

Conversation en chevauchement> < Conversation en chevauchement> < Conversation en chevauchement> Conversation en chevauchement

Jonathan Zittrain : Il n’a pas aussi une petite fonctionnalité Alexa ?

Mark Zuckerberg : Eh bien, Portal travaille sur Messenger. Donc, si nous optons pour le chiffrement sur Messenger, alors ce sera entièrement chiffré, ce qui, franchement, est probablement ce que les gens veulent.

Jonathan Zittrain : Ouais.

Mark Zuckerberg : L’autre modèle, à côté du salon, c’est la place de la ville, et je pense qu’il n’y a que des normes sociales différentes et des politiques et des normes différentes qui devraient s’appliquer à cela. Mais je pense que ces choses sont très différentes. N’est-ce pas ? Vous n’allez pas le faire – vous finirez peut-être dans un monde où la place publique est entièrement décentralisée ou entièrement cryptée, mais on ne sait pas très bien à quel point il est utile de crypter un contenu public de toute façon, ou très large.

Jonathan Zittrain : Mais, maintenant, vous avez été mis à rude épreuve parce que, d’après ce que j’ai compris, il y a maintenant un changement dans la façon dont WhatsApp fonctionne, qu’il n’y a que cinq avances autorisées.

Mark Zuckerberg : Ouais, donc, c’est un point très intéressant, non ? Donc, lorsque les gens parlent de la façon dont le chiffrement obscurcira certains des signaux que nous pourrons utiliser, vous savez, tant pour fournir de meilleurs services que pour prévenir les dommages. L’une des conclusions des deux dernières années de travail sur la gouvernance et l’application du contenu, qui m’étonnent quelque peu, est qu’il est souvent beaucoup plus efficace d’identifier les faux comptes et les mauvais acteurs en amont d’eux qui font quelque chose de mal par des modèles d’activité plutôt qu’en examinant le contenu.

Jonathan Zittrain : Ce qu’on appelle les métadonnées.

Mark Zuckerberg : Bien sûr.

Jonathan Zittrain : “Je ne sais pas ce qu’ils disent, mais voilà qui ils appellent.”

Mark Zuckerberg : Ouais, ou tout comme eux, ce compte n’a pas l’air d’agir comme une personne, pas vrai ?

Et je suppose qu’au fur et à mesure que l’IA progresse et que vous construisez ces réseaux accusatoires ou des réseaux généralisés d’adversaires, vous arriverez à un endroit où vous aurez Ai qui pourra probablement plus efficacement

Jonathan Zittrain : Va sous couverture mimique[ph ?]. Mimer comme une autre personne – < conversations qui se chevauchent> Mimic agir comme une autre personne

Mark Zuckerberg :… pour un moment.

Mark Zuckerberg : Ouais. Mais, en même temps, vous développerez l’IA contraire de l’autre côté, mais vous serez plus à même d’identifier les IA qui le font. Mais c’est certainement la tactique la plus efficace dans de nombreux domaines où nous avons dû nous concentrer sur la prévention des dommages. Vous savez, la capacité d’identifier les faux comptes, qui, dans n’importe quelle catégorie de problèmes dont vous parlez, beaucoup de problèmes en aval proviennent de faux comptes ou de personnes qui agissent clairement de manière malveillante ou anormale. Vous pouvez en identifier un grand nombre sans même nécessairement regarder le contenu lui-même. Et si vous devez regarder un élément de contenu, alors dans certains cas, vous êtes déjà en retard, parce que le contenu existe et que l’activité a déjà eu lieu. C’est l’une des choses qui me donne l’impression que le chiffrement pour ces services de messagerie est vraiment la bonne direction à prendre, parce qu’il s’agit d’une mesure très appropriée et par mesure de sécurité pour donner aux gens ce contrôle et cette assurance et je suis relativement convaincu que même si vous perdez certains outils pour trouver le contenu nuisible, je ne pense pas que, au bout du compte, ces outils seront les plus importants au bout du compte

Jonathan Zittrain : Oui.

Mark Zuckerberg :… pour avoir trouvé le plus grand nombre de…

Conversation en chevauchement> < Conversation en chevauchement> < Conversation en chevauchement> Conversation en chevauchement

Jonathan Zittrain : Mais maintenant, connectez-le rapidement au truc des cinq attaquants.

Mark Zuckerberg : Oh, oui, bien sûr. Donc, cela revient à dire que si vous ne travaillez pas directement sur un élément de contenu, vous devez opérer sur des modèles de comportement sur le réseau. Et ce que nous avons essentiellement constaté, c’est qu’il n’y avait pas beaucoup de bons usages pour les gens qui envoyaient des choses plus de cinq fois, sauf pour envoyer des pourriels ou faire sauter des choses. On en abusait de façon disproportionnée. Ainsi, vous finissez par penser à des tactiques différentes lorsque vous n’utilisez pas le contenu en particulier ; vous finissez par penser davantage aux habitudes d’utilisation.

Jonathan Zittrain : Je suis toujours en faveur des choses qui réduisent le spam. Cependant, on pourrait également dire que la deuxième catégorie ne visait qu’à diffuser du contenu. Vous pourriez avoir le classique, je ne sais pas, comme Les Mis, ou le manège de Paul Revere, ou l’Arab Spring-esque dans la vision romancée de celui-ci : “C’est une façon pour les gens de faire un arbre et de faire passer le message que “vous ne pouvez pas arrêter le signal”, pour utiliser une référence à Joss Whedon. Tu veux vraiment faire passer le mot. Cela mettrait évidemment fin à cela aussi.

Mark Zuckerberg : Oui, et puis je pense que la question est de savoir si vous voulez cet outil de communication privé dont la grande majorité de l’utilisation et la raison pour laquelle il a été conçu était la grande majorité des communications individuelles ; il y a un grand nombre de groupes dans lesquels les gens communiquent, mais c’est un petit cas limite où les gens utilisent ça avec, genre- vous avez beaucoup de groupes différents et vous essayez d’organiser quelque chose et de pirater un utilitaire de type contenu public ou partage public dans un espace crypté et, là encore, je pense que vous commencez à vous mettre à “Est-ce le salon ou est-ce la place de la ville ?” Et quand les gens commencent à essayer d’utiliser des outils conçus pour contourner les normes sociales de la place publique, c’est à ce moment-là que je pense que vous commencez probablement à avoir quelques problèmes. Ce n’est pas… nous n’avons pas fini d’aborder ces questions. Il y a beaucoup d’autres choses à penser à ce sujet.

Jonathan Zittrain : Ouais.

Mark Zuckerberg :… mais c’est la forme générale du problème que je perçois du moins dans le travail que nous faisons.

Jonathan Zittrain : Eh bien, sans transition particulière, parlons de fausses nouvelles.

<abattage> <abattage

Jonathan Zittrain : Alors, insérez votre suite préférée ici. Il y a un choix ou du moins une décision à prendre pour savoir ce qui m’attend dans mon fil d’actualités quand je remonterai un peu plus haut dans l’écran.

Mark Zuckerberg : Mm-hm.

Jonathan Zittrain : Et dans la dernière partie de la conversation, nous parlions de la mesure dans laquelle nous examinons le contenu par rapport aux témoins et aux métadonnées, des choses qui entourent le contenu.

Mark Zuckerberg : Oui.

Jonathan Zittrain : Pour ce qui est de savoir ce que devrait être la prochaine chose dans le fil d’actualités, est-ce une considération matérielle valable et souhaitable, pensez-vous, qu’une plateforme comme Facebook dise que c’est la chose que nous sommes sur le point de présenter vraie, quel qu’en soit le vrai sens ?

Mark Zuckerberg : Eh bien, oui, parce que, encore une fois, pour essayer de servir les gens, les gens nous disent qu’ils ne veulent pas de faux contenus. C’est vrai. Je veux dire, je ne connais personne qui veut du faux contenu. Je pense que toute la question est, encore une fois, de savoir qui doit décider. C’est vrai. En gros, je ne connais personne qui s’assoirait là pour me dire : “Oui, s’il vous plaît, montrez-moi des choses que vous savez être fausses et qui sont fausses” ; les gens veulent un contenu et des informations de bonne qualité. Cela dit, je ne pense pas vraiment que les gens veulent que nous décidions de ce qui est vrai pour eux et les gens ne s’entendent pas sur ce qui est vrai. Et, comme, la vérité est, je veux dire, il y a différents niveaux de quand quelqu’un raconte une histoire, peut-être que le méta-arc parle de quelque chose qui est vrai mais les faits qui y ont été utilisés sont faux d’une certaine manière nuancée mais, comme, il parle à une expérience plus profonde. C’était vrai ou pas ? Et les gens veulent-ils qu’on les disqualifie ? Je pense que les gens ne seront pas tous du même avis à ce sujet.

J’ai donc été très sensible et nous voulons vraiment nous assurer que nous montrons aux gens un contenu et une information de haute qualité. Nous savons que les gens ne veulent pas de fausses informations. Nous construisons donc des systèmes assez perfectionnés pour être en mesure de mettre l’accent sur la qualité et de montrer ce qui va être de haute qualité. Mais la grande question est de savoir d’où vient le signal sur la qualité ? Donc, la première version 1 de ce projet de loi portait sur la collaboration avec des vérificateurs de faits tiers.

C’est vrai, je crois fermement que les gens ne veulent pas de Facebook et que nous ne devrions pas être les arbitres de la vérité en décidant ce qui est correct pour tout le monde dans la société. Je pense que les gens pensent déjà en général que nous avons trop de pouvoir pour décider quel contenu est bon. J’ai aussi tendance à m’inquiéter à ce sujet et nous devrions parler de certains aspects de la gouvernance sur lesquels nous travaillons séparément pour essayer de faire en sorte qu’il y ait une surveillance plus indépendante.

Jonathan Zittrain : Oui.

Mark Zuckerberg : Mais mettons cela dans un encadré pour l’instant et disons simplement qu’avec ces préoccupations à l’esprit, je ne cherche certainement pas à essayer de prendre beaucoup plus de décisions en termes de décider en plus d’appliquer toutes les politiques de contenu, de décider également ce qui est vrai pour tous dans le monde. Ok, donc le v.1 de ça c’est qu’on va travailler avec-

Jonathan Zittrain : Des experts de la vérité.

Mark Zuckerberg : Nous travaillons avec des vérificateurs de faits.

Jonathan Zittrain : Ouais.

Mark Zuckerberg : Et ce sont des experts et, essentiellement, il y a tout un domaine sur la façon d’évaluer certains contenus. Ils sont accrédités. Les gens peuvent ne pas être d’accord avec l’orientation de certaines de ces organisations.

Jonathan Zittrain : <l’abattage> Qui sont les vérificateurs accrédités ?

Mark Zuckerberg : <laughs> L’Institut Poynter pour le journalisme.

Jonathan Zittrain : Je devrais faire une demande de certification.

Mark Zuckerberg : Vous le pouvez.

Jonathan Zittrain : D’accord, très bien.

Mark Zuckerberg : Vous l’obtiendriez probablement, mais vous devez… Vous devriez passer par le processus.

Mark Zuckerberg : Le problème, c’est qu’il n’y en a pas assez. Il y a donc un contenu important. De toute évidence, beaucoup d’informations sont échangées tous les jours et il n’y a tout simplement pas beaucoup de vérificateurs de faits. La question est donc bonne, c’est probablement…

Jonathan Zittrain : Mais la portion… Vous dites que la nourriture est bonne, c’est juste que les portions sont petites. Mais la nourriture est bonne.

Mark Zuckerberg : Je pense qu’en général, mais c’est ainsi que vous construisez des systèmes, ce que nous avons fait en particulier jusqu’aux élections où je pense que ce sont les moments les plus difficiles où les gens essaient vraiment de répandre la désinformation de façon agressive.

Jonathan Zittrain : Oui.

Mark Zuckerberg : Vous construisez des systèmes qui donnent la priorité au contenu qui semble devenir viral parce que vous voulez réduire la prévalence de la propagation de la substance, de sorte que les vérificateurs de faits aient des outils pour être en mesure, par exemple, de prioriser ce dont ils ont besoin, ce qu’ils doivent aller voir. Mais il n’atteint encore qu’un pourcentage relativement faible du contenu. Je pense donc que ce que nous voulons vraiment essayer d’atteindre avec le temps, c’est plutôt un modèle fondé sur la foule où les gens, ce n’est pas qu’ils font confiance à une sorte de groupe d’experts qui sont accrédités, mais qui sont dans une noble institution quelque part d’autre. C’est comme si vous faisiez confiance, oui, si vous obtenez suffisamment de points de données de la communauté de personnes qui examinent raisonnablement quelque chose et l’évaluent au fil du temps, alors la question est de savoir si vous pouvez combiner tout cela en un signal assez fort pour que nous puissions ensuite l’utiliser ?

Jonathan Zittrain : Dans l’ancienne école, c’est un peu comme un système de modération par points.

Mark Zuckerberg : Oui.

Jonathan Zittrain : Avec seulement l’inquiétude que si les enjeux deviennent assez élevés, quelqu’un veut Astroturf cela.

Mark Zuckerberg : Oui.

Jonathan Zittrain : Je serais-

Mark Zuckerberg : Il y a beaucoup de questions ici, et c’est pourquoi je ne suis pas ici pour annoncer un nouveau programme.

<abattage> <abattage

Mark Zuckerberg : Mais ce que je veux dire.

Jonathan Zittrain : Ouais,

Mark Zuckerberg : C’est l’orientation générale à laquelle je pense que nous devrions penser lorsque nous aurons et je pense qu’il y a beaucoup de questions et…

Jonathan Zittrain : Oui.

Mark Zuckerberg : Et nous aimerions faire quelques tests dans ce domaine pour voir si cela peut nous aider. Ce qui serait de respecter les principes que nous voulons arrêter.

Jonathan Zittrain : Oui.

Mark Zuckerberg : La diffusion de la désinformation.

Jonathan Zittrain : Oui.

Mark Zuckerberg : Sachant que personne ne veut de fausses informations. Et l’autre principe, c’est que nous ne voulons pas être les arbitres de la vérité.

Jonathan Zittrain : Tu veux être le décideur, oui.

Mark Zuckerberg : Et je pense que c’est là l’essentiel – ce sont les contours fondamentaux de ce problème.

Jonathan Zittrain : Permettez-moi donc de vous présenter une idée que vous pouvez traiter en temps réel et de me dire les huit raisons pour lesquelles je n’ai pas pensé à pourquoi c’est une mauvaise idée. Et ce serait que les gens voient quelque chose dans leur flux Facebook. Ils sont sur le point de le partager parce qu’il y a une sorte de facteur d’indignation. Je pense à l’histoire classique d’il y a deux ans dans The Denver Guardian à propos d’un “agent du FBI soupçonné d’avoir été impliqué dans la fuite d’e-mail d’Hilary Clinton impliquée dans un meurtre-suicide”, je viens d’annoncer une fausse nouvelle.

Rien de tout ça n’était vrai si vous avez cliqué sur The Denver Guardian. Il y avait juste cet article. Il y a Denver Guardian. Si vous habitez à Denver, vous ne pouvez pas vous abonner. Comme si c’était un faux sans ambiguïté. Et il a été partagé plus de fois que l’histoire la plus partagée pendant la saison électorale du Boston Globe. Et ainsi

Mark Zuckerberg : Donc, et c’est en fait un exemple, soit dit en passant, où essayer de trouver de faux comptes est une solution beaucoup plus simple.

Jonathan Zittrain : Oui.

Mark Zuckerberg : que d’essayer de…

Jonathan Zittrain : Donc si le journal a un article.

Mark Zuckerberg : Oui.

Jonathan Zittrain : Attendez encore 10 minutes avant de décider que c’est un journal.

Mark Zuckerberg : Ouais. Ou, tu sais, je veux dire, c’est qu’il y a un nombre quelconque de systèmes que tu pourrais construire pour détecter, “Hé, c’est…”

Jonathan Zittrain : Un Potemkine.

Mark Zuckerberg : C’est une chose frauduleuse.

Jonathan Zittrain : Oui.

Mark Zuckerberg : Et ensuite, tu pourras l’enlever. Encore une fois, cette décision finit par être beaucoup moins controversée parce qu’elle est prise en amont sur la base de l’inauthenticité.

Jonathan Zittrain : Oui.

Mark Zuckerberg : Dans un système où les gens sont censés être leur vrai et représenter qu’ils sont leur vrai soi plutôt qu’en aval, en essayant de dire, “Hé, est-ce vrai ou faux ?”

Jonathan Zittrain : J’ai fait une erreur en vous donnant l’affaire facile.

Mark Zuckerberg : D’accord.

<abattage> <abattage

Jonathan Zittrain : Je n’aurais donc pas dû utiliser cet exemple.

Mark Zuckerberg : Trop simple.

Jonathan Zittrain : Vous avez raison et vous avez fait sortir celui-là du parc et, comme, Denver Guardian, trouvez plus d’articles et soyez réaliste et puis revenez nous parler.

<abattage> <abattage

Jonathan Zittrain : Donc, voici le cas le plus difficile qui est quelque chose qui pourrait se trouver dans un point de vente qui est, vous savez, considéré comme légitime, qui a un certain nombre d’utilisateurs, et ainsi de suite. Vous ne pouvez donc pas utiliser les métadonnées aussi facilement.

Imaginez si quelqu’un, au moment de la distribution, pouvait dire : ” Au fait, je veux suivre ça. Ils cliquent sur un bouton qui dit ça. Et j’ai aussi réalisé quand j’ai parlé plus tôt à quelqu’un sur Facebook à ce sujet que l’ajout d’un nouveau bouton sur la page d’accueil est, comme, la première idée de chacun.

Mark Zuckerberg : Oh, oui.

Jonathan Zittrain : Et c’est-

Mark Zuckerberg : Mais c’est une expérience de réflexion raisonnable, même si elle conduirait à une très mauvaise assurance-chômage.

Jonathan Zittrain : D’accord, c’est juste. J’ai cru comprendre que c’était déjà…

Mark Zuckerberg : Oui. <rires>> rires

Jonathan Zittrain : Au pays de la fantaisie. Alors ils ajoutent le bouton. Ils disent :”Je veux faire un suivi.”

Si suffisamment de personnes cliquent comparativement sur la même chose pour dire : “Je veux en savoir plus à ce sujet. Si quoi que ce soit d’autre se développe, faites-le moi savoir, Facebook”, que, si j’ai mon tube pneumatique, il va alors à un panel virtuellement convoqué de trois bibliothécaires. Nous nous adressons aux bibliothécaires de la nation et du monde entier dans les bibliothèques publiques et privées du pays qui acceptent de participer à ce programme. Nous avons peut-être établi une petite fondation qui est dotée de façon permanente et qui n’a plus de lien avec la personne qui l’a dotée. Et ces bibliothécaires discutent ensemble de l’article et ils reviennent avec ce qu’ils diraient à un client si quelqu’un venait leur dire  : ” Je suis sur le point de citer cela dans mon mémoire en sciences humaines. Et les bibliothécaires vivent pour ce genre de questions.

Mark Zuckerberg : Mm-hmm, oui.

Jonathan Zittrain : Ils sont genre,”Wow. Et ils ont une énorme notion fiduciaire du devoir de mécène qui dit :”Je peux vous désapprouver même si vous étudiez ça, peu importe, mais je suis là pour vous servir, vous, l’utilisateur.”

Mark Zuckerberg : Oui.

Jonathan Zittrain : “Et je pense qu’il faut que tu le saches, c’est peut-être pour ça que ce n’est pas une si bonne source” Et quand ils le trouvent, ils peuvent le renvoyer et il est envoyé à tous ceux qui demandent un suivi-

Mark Zuckerberg : Oui.

Jonathan Zittrain : Et ils peuvent en faire ce qu’ils veulent. Et la dernière pièce du casse-tête, nous avons des élèves du secondaire qui apprennent comme bibliothécaires numéro trois pour obtenir des crédits.

<abattage> <abattage

Jonathan Zittrain : Ensuite, ils pourront évaluer leur participation à cet exercice qui contribue à former une nouvelle génération de bibliothécaires qui sont plus aptes à lire les choses, alors.

Mark Zuckerberg : D’accord, je pense que vous avez un objectif secondaire auquel je n’ai pas pensé en ce qui concerne le truc de bibliothécaire.

<abattage> <abattage

Mark Zuckerberg : Ce qui est le but maléfique de la promotion des bibliothèques.

Jonathan Zittrain : Eh bien, c’est

Mark Zuckerberg : Non, mais je veux dire, écoutez, je pense qu’il est déjà assez difficile de prévenir la désinformation ou de répandre la désinformation sans essayer aussi de développer les élèves du secondaire dans une direction.

Jonathan Zittrain : Ah. Mon collègue Charlies Foote-

Mark Zuckerberg : Alors, c’est résoudre un problème avec un problème.

Jonathan Zittrain : D’accord, c’est bon. Enfin, en tout cas, oui.

Mark Zuckerberg : Je pense donc être d’accord avec la plupart de ce que vous avez là-dedans. Il n’est pas nécessaire qu’il y ait un bouton sur la page d’accueil, il se peut qu’il y ait tellement de gens qui utilisent ces services que même si vous obtenez – même si vous mettez quelque chose qui n’a pas l’air super proéminent, comme, derrière les trois points sur une histoire donnée, vous avez les options, oui, vous ne l’êtes pas – tout le monde ne va pas aimer quelque chose.

Jonathan Zittrain : Si 1 sur 1000 le fait, il y a encore 10 000 ou 100 000 personnes, oui.

Mark Zuckerberg : Tu reçois un bon signal. Mais je pense en fait que vous pourriez faire encore mieux, c’est-à-dire qu’il n’est même pas clair que vous ayez besoin de ce signal. Je pense que c’est super utile. Je pense que ce qui compte vraiment, c’est d’examiner les choses qui reçoivent beaucoup de distribution. Donc, vous savez, je pense qu’il y a cette notion, et je reviens à la conversation sur le chiffrement, qui est très bien, si je vous dis quelque chose qui ne va pas dans une conversation en tête-à-tête, je veux dire, est-ce que cela doit être vérifié ? Je veux dire, c’est, ouais, ce serait bien si tu avais les informations les plus précises.

Jonathan Zittrain : J’ai un bibliothécaire personnel qui m’accompagne dans la plupart des conversations, oui. Et voilà pour vous.

<abattage> <abattage

Mark Zuckerberg : Eh bien, vous êtes-

Jonathan Zittrain : C’est inhabituel.

Mark Zuckerberg : Oui, oui. Oui.

<abattage> <abattage

Mark Zuckerberg : C’est le mot que je cherchais. <abattage>

Jonathan Zittrain : Je ne suis pas sûr de vous croire, mais oui.

Mark Zuckerberg : Mais je pense qu’il y a des limites – je ne pense pas que quelqu’un puisse dire que chaque message qui va et vient dans un service de messagerie particulièrement crypté devrait être…

Jonathan Zittrain : Vérification des faits.

Mark Zuckerberg : Il faudrait vérifier les faits.

Jonathan Zittrain : Correct.

Mark Zuckerberg : Je pense donc que la vraie question est très bien, quand quelque chose commence à devenir viral ou à recevoir beaucoup de distribution, c’est à ce moment-là qu’il devient le plus important socialement qu’il en soit ainsi- avoir un certain niveau de validation ou au moins qu’on sache où la communauté en général pense que c’est une chose raisonnable. En fait, même s’il est utile de savoir si les gens signalent que c’est quelque chose que nous devrions examiner, je pense que vous voulez de plus en plus concevoir des systèmes qui empêchent tout simplement un contenu aussi alarmant ou sensationnel de devenir viral en premier lieu. Et s’assurer que tout ce qui est distribué à grande échelle le soit parce qu’il s’agit d’un produit de haute qualité sur tous les fronts qui vous tiennent à cœur. Alors, d’accord ?

Jonathan Zittrain : Et cette qualité vient encore généralement de Poynter ou d’une tierce partie externe qui

Mark Zuckerberg : Eh bien, la qualité d’un puits a de nombreuses dimensions.

Jonathan Zittrain : Ouais.

Mark Zuckerberg : Mais l’exactitude en est certainement une dimension. Vous avez également souligné dans une de vos questions, je crois, que ce contenu est susceptible d’inciter à l’indignation. Si cela ne vous dérange pas, je vais passer à votre panel de trois choses en une seconde, mais pour faire un petit détour par là.

Jonathan Zittrain : Oui.

Mark Zuckerberg : L’une des constatations qui a été très intéressante, c’est qu’on se demande si les médias sociaux en général augmentent, ce qui fait en sorte que le contenu sensationnaliste soit le plus diffusé possible. Et ce que nous avons constaté, c’est que, d’accord, nous allons donc avoir des règles, n’est-ce pas, sur le contenu autorisé. Et ce que nous avons constaté, c’est qu’en général, quelles que soient les règles que vous établissez, à mesure que le contenu s’approche de la limite de ce qui est permis, il est souvent distribué davantage. Alors, si vous voulez avoir une règle sur quoi ? Et prenez un exemple complètement différent et nos politiques sur la nudité. C’est vrai. C’est comme, ok, tu dois définir ce qui est une nudité inacceptable d’une certaine façon. Quand on se rapproche le plus possible de ça, c’est comme si, d’accord. C’est peut-être une photo de quelqu’un.

Jonathan Zittrain : Le ratio peau/partage augmente jusqu’à ce qu’il soit interdit, puis il est ramené à zéro.

Mark Zuckerberg : Oui. D’accord. C’est donc une mauvaise propriété d’un système, c’est vrai, et je pense que c’est ce que vous voulez aborder de façon générale. Ou vous ne voulez pas concevoir une communauté où ou des systèmes pour aider à construire une communauté où les choses qui se rapprochent le plus de la ligne que ce qui est mauvais obtiennent la plus grande distribution.

Jonathan Zittrain : Tant que nous avons la prémisse, ce qui est vrai dans bien des cas, mais je pourrais probablement essayer de penser à certains cas où ce ne serait pas vrai, que lorsque vous approchez de la ligne, votre état s’aggrave.

Mark Zuckerberg : C’est un bon point. C’est un bon point. Il y a-

Jonathan Zittrain : Tu sais, il y a peut-être de l’humour qui est vraiment énervé.

Mark Zuckerberg : C’est vrai.

Jonathan Zittrain : Et cela transmet un message qu’il serait impossible de transmettre sans la nervosité, même si ce n’est pas encore-

Mark Zuckerberg : C’est-à-dire-

Jonathan Zittrain : Mais, je-

Mark Zuckerberg : C’est vrai.

Jonathan Zittrain : Ouais.

Mark Zuckerberg : Mais on se demande alors quel est l’avantage économique de permettre cela. Et évidemment, lorsqu’il est possible de distinguer avec précision ce qui est bien et ce qui ne l’est pas, comme dans le cas de la désinformation, je ne suis pas sûr qu’on puisse le faire avec toute la précision voulue, mais on peut essayer de construire des systèmes qui se rapprochent de cela, il y a certainement le problème, c’est-à-dire que, je veux dire, la désinformation entraîne un préjudice public massif. Donc, si c’est de la désinformation qui répand la haine et mène à un génocide ou à des attaques publiques, ou si c’est du genre, d’accord, nous n’allons pas permettre cela. C’est vrai. C’est en train de s’effondrer. Mais en général, si vous dites quelque chose qui ne va pas, nous n’allons pas essayer de le bloquer.

Jonathan Zittrain : Oui.

Mark Zuckerberg : Nous allons simplement essayer de ne pas le montrer aux gens à grande échelle parce que les gens ne veulent pas d’un contenu qui est mauvais. La question est donc de savoir comment vous jugez que quelque chose se rapproche de la limite. Il s’agit d’un thème général dans bon nombre des travaux que nous menons en matière de gouvernance du contenu et d’application de la loi, dont l’un des éléments consiste simplement à veiller à ce que nous puissions appliquer le plus efficacement possible les politiques existantes. Ensuite, il y a tout un autre volet de travail, que j’ai appelé le contenu limite, qui est essentiellement cette question de savoir comment s’assurer que ce n’est pas le contenu qui reçoit le plus de distribution, à mesure que le contenu s’approche de la ligne d’opposition aux politiques ? Bon nombre des mesures que nous avons prises au cours de la dernière année se sont concentrées sur ce problème, ce qui a vraiment amélioré la qualité du service et les gens l’apprécient.

Jonathan Zittrain : Il s’agit donc de choses que l’on laisse tomber facilement sans les bannir et les laisser tomber facilement, car cela va en quelque sorte avoir un coefficient de friction pour le partage qui va augmenter. Ça va être plus dur.

Mark Zuckerberg : Oui.

Jonathan Zittrain : Pour que ça devienne viral.

Mark Zuckerberg : Oui.

Jonathan Zittrain : Et..

Mark Zuckerberg : C’est donc fascinant parce que c’est tout simplement contre… On peut prendre presque toutes les catégories de politiques que nous avons, alors j’ai utilisé la nudité il y a une seconde. Tu sais, des images sanglantes et violentes.

Jonathan Zittrain : Oui.

Mark Zuckerberg : Discours de haine.

Jonathan Zittrain : Ouais.

Mark Zuckerberg : N’importe laquelle de ces choses. Je veux dire, il y a le discours haineux, il y a un contenu que vous diriez qu’il est méchant ou toxique, mais qui n’a pas violé- Mais que vous ne voudriez pas d’une société qui interdit de pouvoir dire cette chose. Mais c’est, mais vous ne voulez pas nécessairement que ce soit le contenu qui soit le plus diffusé.

Jonathan Zittrain : Voici donc une question classique de transparence concernant exactement le système que vous avez décrit.

Et quand vous avez décrit cela, je pense que vous avez publié un article à ce sujet il y a quelques mois. C’était fascinant.

Il y avait des graphiques dans le poteau pour illustrer cela, ce qui était très bien. Que diriez-vous de partager avec la personne qui l’a posté ou éventuellement avec tous ceux qui le rencontrent son coefficient de friction ? Ça ferait flipper les gens ? Et en fait, ils commenceraient probablement à se conformer à leur poste, pour le meilleur ou pour le pire.

Mark Zuckerberg : Oui.

Jonathan Zittrain : Pour essayer de maximiser la partageabilité. Mais cette cote est déjà quelque part là-dedans, de par sa conception. Est-ce qu’il serait possible de faire surface ?

Mark Zuckerberg : Donc, par principe, je pense que ce serait une bonne chose, mais ce n’est pas le cas… La façon dont les systèmes sont conçus n’est pas que vous obteniez une note sur le caractère incendiaire ou sensationnaliste d’un élément de contenu. La façon dont cela fonctionne fondamentalement est que vous pouvez construire des classificateurs qui identifient des types spécifiques de choses. C’est vrai.

Nous descendons donc la liste des 20 catégories de contenu préjudiciable que vous essayez d’identifier. Vous savez, de la propagande terroriste d’un côté à l’automutilation en passant par les discours haineux et l’ingérence électorale. Et fondamentalement, chacune de ces choses, bien qu’elle utilise beaucoup de la même infrastructure d’apprentissage machine sous-jacente, vous faites un travail spécifique pour chacune d’elles. Donc, si vous revenez à l’exemple sur la nudité pendant une seconde, vous savez, ce que vous – vous n’êtes pas nécessairement en train de tout noter sur une échelle de pas du tout nu à nu. Vous[‘are basically enforcing specific policies. Donc, tu sais, tu dis :”D’accord, si…”

Jonathan Zittrain : Donc, par apprentissage automatique, il suffirait de me donner une estimation des probabilités qu’un humain, s’il le regardait, qui était employé pour faire appliquer la politique

Mark Zuckerberg : Eh bien, fondamentalement–

Jonathan Zittrain : S’il viole la politique.

Mark Zuckerberg : Et vous avez le sentiment que, d’accord, c’est… Alors, quelles sont les choses qui sont adjacentes à la politique, n’est-ce pas ? Donc, si la personne est complètement nue, c’est quelque chose que vous pouvez certainement construire un classificateur pour être en mesure de l’identifier avec une précision relativement élevée. Mais même si ce n’est pas le cas, vous savez, alors la question est qu’il faut être capable de décrire qualitativement les choses qui sont adjacentes à cela. Il se peut donc que la personne porte un maillot de bain et se trouve dans une position sexuellement suggestive. C’est vrai. Ce n’est pas comme n’importe quel morceau de contenu que vous allez obtenir de pas du tout nu à nu. Mais vous avez en quelque sorte les arguments pour ce que vous pensez être adjacent aux enjeux et, encore une fois, vous enracinez cela et, sur le plan qualitatif, les gens peuvent cliquer dessus, ils peuvent s’y engager, mais à la fin, ils ne se sentent pas nécessairement bien à ce sujet. Et vous voulez savoir quand vous concevez ces systèmes, non seulement ce que font les gens, mais aussi si vous voulez vous assurer que nous tenons compte également de ce que les gens disent qu’ils veulent vraiment voir, par exemple, est-ce le contenu qu’ils veulent voir ? Est-ce qu’ils… ?

Jonathan Zittrain : Le droit constitutionnel, il y a une sorte de définition formelle qui a émergé pour le mot “prurient”.

Mark Zuckerberg : D’accord.

Jonathan Zittrain : Dans le cadre d’une définition de l’obscénité, le fameux test de Miller, qui n’était pas un test orienté bière. Et une partie d’un intérêt mal à l’aise, c’est qu’il m’excite et pourtant, il me dégoûte complètement.

Et il semble que vous convergez vers la vision de la Cour suprême de la ruse à cet égard.

Mark Zuckerberg : Peut-être.

<abattage> <abattage

Jonathan Zittrain : Ne t’inquiète pas, je n’essaie pas de t’épingler là-dessus. Mais il est très intéressant de voir que l’apprentissage automatique, que vous avez invoqué, est très bon, je suppose, pour quelque chose comme ça.

C’est le genre de chose comme si des gens me disaient, avec leur expertise, si cela allait à l’encontre de la politique ou non, et je vais commencer à vous dire si c’est le cas, par le biais de l’esprit Spidey.

Mark Zuckerberg : Mm-hmm.

Jonathan Zittrain : Plutôt que d’être capable de jeter exactement quels sont les facteurs. Je sais que la personne est entièrement vêtue, mais elle va quand même invoquer cette qualité. Donc, tous les avantages de l’apprentissage automatique et, bien sûr, tous les inconvénients où il classifie quelque chose et où quelqu’un se dit : “Attendez une minute. C’était moi en train de faire une parodie de bla, bla, bla, bla.” Tout cela passe au premier plan.

Mark Zuckerberg : Oui, et je veux dire, quand on demande aux gens ce qu’ils veulent voir en plus de ce qu’ils veulent voir, on obtient une idée complètement différente de ce que les gens apprécient et on peut construire des systèmes qui s’en rapprochent. Mais pour en revenir à votre question, je pense qu’au lieu de donner aux gens une note de friction-

Jonathan Zittrain : Oui.

Mark Zuckerberg : Je pense que vous pouvez probablement dire aux gens : “Hé, ça pourrait mettre les gens mal à l’aise de cette façon, d’une façon spécifique.” Et ça correspond à votre-

Jonathan Zittrain : Cela pourrait affecter ce qu’il reçoit, ce qu’il reçoit, ce qu’il partage.

Mark Zuckerberg : Ouais. Il y a une autre question d’éthique de l’intelligence artificielle qui, à mon avis, est vraiment importante ici, à savoir concevoir des systèmes d’intelligence artificielle qui soient compréhensibles pour les gens…

Jonathan Zittrain : C’est vrai.

Mark Zuckerberg : Dans une certaine mesure, vous ne voulez pas seulement qu’il indique à quel point il est offensant ou, par exemple, à quel point il est offensant pour une politique donnée. Vous voulez qu’il soit capable d’établir des correspondances avec des éléments spécifiques qui pourraient poser problème.

Jonathan Zittrain : Oui.

Mark Zuckerberg : Et c’est ainsi que nous essayons de concevoir les systèmes dans leur ensemble.

Jonathan Zittrain : Oui. Maintenant, nous avons quelque chose dans la boîte que nous devrions retirer, c’est-à-dire le matériel d’examen externe. Mais avant de le faire, il y a une autre question de transparence qu’il faudrait peut-être aborder. J’imagine qu’il serait possible de me donner un score de ce que j’ai gagné sur Facebook cette année. Et je sais que parfois les gens, j’imagine, peuvent se faire concurrence pour augmenter leur nombre. <Rire> Mais je suis juste curieux, est-ce que ce serait un chiffre ? Je serais curieux de le savoir, en partie parce que cela pourrait même préparer le terrain en disant : “Écoute, Mark, je vais le doubler. Tu peux avoir le double de l’argent et ne pas me montrer d’annonces.” On peut prendre une voiture dans ce parking aujourd’hui ?

<abattage> <abattage

Mark Zuckerberg : <rires> Ok, eh bien, il y a beaucoup- <d’abattage>

Mark Zuckerberg : Il y en a beaucoup là-dedans.

Jonathan Zittrain : C’était une question rapide.

Mark Zuckerberg : <laughs> Donc il y a une question dans ce que vous dites qui est que nous avons construit un système supporté par la publicité. Devrions-nous avoir la possibilité pour les gens de payer pour ne pas voir les publicités.

Jonathan Zittrain : C’est vrai.

Mark Zuckerberg : Je pense que c’est un peu ce que vous dites. Je veux dire, tout comme l’amorce de base des premiers principes à ce sujet. Vous savez, nous construisons ce service. Nous voulons donner à chacun une voix. Nous voulons que tout le monde puisse communiquer avec les personnes auxquelles il tient. Si vous essayez de construire un service pour tout le monde,

Jonathan Zittrain : Il faut être libre. C’est juste <inaudible 01:04:45>

Mark Zuckerberg : Si vous voulez qu’ils l’utilisent, ce ne sera que l’argument. Oui, oui, oui.

Jonathan Zittrain : D’accord. D’accord, c’est bon.

Mark Zuckerberg : Alors, c’est une sorte d’essai et de vérité. Au fil du temps, beaucoup d’entreprises ont bénéficié d’un soutien publicitaire. En général, ce que nous constatons, c’est que si les gens vont voir des annonces, ils veulent qu’elles soient pertinentes. Ils ne veulent pas qu’ils soient de la camelote. C’est vrai. Ainsi, vous donnez aux gens le contrôle sur la façon dont leurs données sont utilisées pour leur montrer des publicités. Mais la grande majorité des gens disent, comme, comme, me montrer les annonces les plus pertinentes que vous pouvez parce que je comprends que je dois voir des annonces. Ce service est gratuit. La question qui se pose maintenant est donc très bien, alors il y a toute une série de questions à ce sujet que nous pourrions aborder, mais…

Jonathan Zittrain : Pour lequel nous en avons assez parlé pour le rouvrir, l’exploitation de la personnalisation.

Mark Zuckerberg : Oui.

Jonathan Zittrain : Ou même juste une question philosophique. À l’heure actuelle, Uber ou Lyft ne sont pas financés de cette façon.

Nous pourrions appliquer ce modèle publicitaire à Uber ou Lyft, “Free rides. Totalement gratuit. C’est juste qu’un tour sur cinq vous emmène chez Wendy’s et tourne au ralenti à l’extérieur de la voiture par la fenêtre.”

<abattage> <abattage

Jonathan Zittrain : “A toi de décider ce que tu veux faire, mais tu vas t’asseoir ici pour un moment”, et ensuite tu continues ton chemin. Je ne sais pas comment – et je ne sais pas comment – le statu quo pourrait probablement dire que les gens auraient un problème avec cela, mais cela donnerait aux gens des manèges qui, autrement, n’auraient pas de manèges.

Mark Zuckerberg : Je n’ai pas pensé à cette affaire dans leur-

<abattage> <abattage

Mark Zuckerberg : Dans leurs affaires, donc, donc-

Jonathan Zittrain : C’est mon brevet, bon sang, alors ne le vole pas.

Mark Zuckerberg : Mais certainement certains services, je pense qu’ils ont tendance à être mieux soutenus que d’autres.

Jonathan Zittrain : D’accord.

Mark Zuckerberg : D’accord, et je pense qu’en général, celles qui sont basées sur l’information ont tendance à-

Jonathan Zittrain : que ma fausse hypoglycémie d’emprisonnement, je- D’accord, d’accord.

Mark Zuckerberg : Je veux dire, ça semble

Jonathan Zittrain : Ouais.

Mark Zuckerberg : Il pourrait y avoir, vous savez, plus- <rires- <rires> plus de problèmes là. Mais d’accord, mais va au truc de l’abonnement.

Jonathan Zittrain : Oui.

Mark Zuckerberg : Quand les gens ont des questions sur le modèle publicitaire sur Facebook, je ne pense pas que les questions portent uniquement sur le modèle publicitaire, je pense qu’il s’agit à la fois de voir les publicités et d’utiliser les données autour des publicités.

Et ce que je pense, alors quand j’y pense, je ne pense pas qu’il faille laisser les gens payer pour ne pas voir les publicités parce que je pense que la question est que les questions concernent les publicités et l’utilisation des données et je ne pense pas que les gens vont être si excités de ne pas voir de publicité mais de ne plus avoir de contrôles différents sur la façon dont leurs données sont utilisées. D’accord, mais maintenant vous commencez à vous poser la question de principe suivante : allons-nous laisser les gens payer pour avoir des contrôles sur l’utilisation des données différents de ceux des autres personnes ? Et ma réponse est un non catégorique, n’est-ce pas ? Donc la condition préalable-

Jonathan Zittrain : Quel est un exemple d’utilisation de données qui n’est pas basée sur la publicité, juste pour que nous sachions de quoi nous parlons ?

Mark Zuckerberg : Ce n’est pas une publicité ?

Jonathan Zittrain : Ouais.

Mark Zuckerberg : Qu’est-ce que tu veux dire ?

Jonathan Zittrain : Tu disais, je ne veux pas voir d’annonces. Mais vous dites que c’est juste la cire sur la voiture. Ce qu’il y a en dessous, c’est comment les données sont utilisées.

Mark Zuckerberg : Alors, eh bien, écoutez, peut-être que je vais continuer avec cette explication et ensuite je pense que ce sera clair.

Jonathan Zittrain : Ouais, bien sûr.

Mark Zuckerberg : Donc, l’une des choses sur lesquelles nous avons travaillé, c’est cet outil que nous appelons l’histoire claire. Et l’idée de base est que vous pouvez en quelque sorte l’analogiser à un navigateur Web où vous pouvez effacer vos cookies. C’est un peu normal. Vous savez que lorsque vous effacez vos cookies, vous allez être déconnecté d’un tas de choses. Un tas de trucs pourraient devenir plus ennuyeux.

Jonathan Zittrain : C’est pour ça que je pense que personne n’efface les cookies, n’est-ce pas ?

Mark Zuckerberg : Je ne sais pas, je ne sais pas.

Jonathan Zittrain : Ils pourraient utiliser le mode incognito ou quelque chose comme ça, mais.

Mark Zuckerberg : Je pense… Je ne sais pas. Combien d’entre vous effacent vos cookies de temps en temps, non ?

Jonathan Zittrain : Ce n’est pas un groupe représentatif, bon sang.

<abattage> <abattage

Mark Zuckerberg : D’accord. Peut-être une fois par an ou quelque chose comme ça, je nettoierai mes cookies.

Jonathan Zittrain : <rires> rires

Mark Zuckerberg : Mais non, c’est, je pense-

Jonathan Zittrain : Bonne année.

<abattage> <abattage

Mark Zuckerberg : Non, sur une certaine période de temps, d’accord, mais-

Jonathan Zittrain : Ouais, d’accord.

Mark Zuckerberg : Mais pas nécessairement tous les jours. Mais il est important que les gens disposent de cet outil, même si, dans un sens local, il peut aggraver leur expérience.

Jonathan Zittrain : Oui.

Mark Zuckerberg : Ok. Donc ce genre de contenu de ce que différents services, sites web et applications envoient à Facebook que, vous savez, nous utilisons pour aider à mesurer l’efficacité des publicités là-bas, donc des choses comme, vous savez, si vous êtes développeur d’applications et que vous essayez de payer pour des publicités pour aider à développer votre application, nous voulons seulement vous facturer quand nous, quand quelque chose que nous montrons mène à une installation, pas seulement si quelqu’un voit la publicité ou clique dessus, mais si ils ajoutent –

Jonathan Zittrain : Cela nécessite toute une infrastructure pour, oui.

Mark Zuckerberg : D’accord, alors, ouais, alors tu construis ça. Cela nous aide à montrer aux gens des annonces plus pertinentes.

Il peut aider à montrer un contenu plus pertinent. Souvent, beaucoup de ces signaux sont très utiles aussi du point de vue de la sécurité pour certaines des autres choses dont nous avons parlé, de sorte qu’en fin de compte, c’est important. Mais fondamentalement, vous savez, en regardant le modèle aujourd’hui, il semble que vous devriez avoir quelque chose comme cette capacité à effacer l’histoire. Il s’avère que c’est un projet technique beaucoup plus complexe. J’en avais parlé lors de notre conférence des développeurs l’année dernière, de la façon dont j’avais espéré que nous le déploierions d’ici la fin de 2018 et juste, la plomberie va si loin dans tous les différents systèmes que c’est, que- Mais nous y travaillons encore et nous allons le faire. C’est juste que ça prend un peu plus de temps.

Jonathan Zittrain : Donc une histoire claire signifie que je suis comme si j’étais un newb, je montre juste

Mark Zuckerberg : Oui.

Jonathan Zittrain : Même si j’utilise Facebook depuis un certain temps, c’est comme s’il ne savait rien de moi et qu’il recommence à s’accumuler.

Mark Zuckerberg : Oui.

Jonathan Zittrain : Et j’essaie simplement de penser comme un simple citoyen âgé, comment pourrais-je porter un jugement éclairé sur la fréquence et le moment où je devrais le faire ? Quoi… ?

Mark Zuckerberg : Eh bien, attendez. Allons-y dans une seconde.

Jonathan Zittrain : D’accord.

Mark Zuckerberg : Mais une chose, juste pour relier les points de la dernière conversation.

Jonathan Zittrain : Ouais.

Mark Zuckerberg : Un historique clair est une condition préalable, je pense, pour pouvoir faire quelque chose comme des abonnements.

C’est vrai. Parce que, par exemple, en partie, ce que quelqu’un voudrait faire s’il allait vraiment payer pour une version non publicitaire où ses données n’étaient pas utilisées dans un système comme celui-là, vous voudriez avoir un contrôle pour que Facebook n’ait pas accès ou n’utilise pas ces données ou les associer à votre compte. Et par principe, nous n’allons pas nous contenter d’offrir un tel contrôle à ceux qui paient.

C’est vrai. Si nous voulons contrôler l’utilisation des données, nous allons le faire pour tous les membres de la collectivité. C’est donc la première chose que je pense que nous devons faire.

Mark Zuckerberg : C’est donc ça, donc c’est un peu ça… C’est un peu la façon dont nous envisageons les projets et c’est un projet technique vraiment profond et important, mais nous sommes déterminés à le faire parce que je pense que c’est à cela qu’il sert. [ph ?] ++++

Jonathan Zittrain : Et je suppose qu’un bloc publicitaire ou quelqu’un pourrait alors écrire un petit script pour votre navigateur qui effacerait votre historique chaque fois que vous visitez ou quelque chose du genre.

Mark Zuckerberg : Oh, oui, non, mais le plan serait aussi d’offrir quelque chose de continu.

Jonathan Zittrain : Je vois.

Mark Zuckerberg : Dans votre navigateur, mais je pense que l’analogie ici est que vous avez en quelque sorte, dans votre navigateur, vous avez la possibilité d’effacer vos cookies. Et puis, par exemple, dans un autre endroit que vous avez sous vos paramètres nucléaires, par exemple, n’acceptez jamais de cookies dans mon navigateur. Et c’est comme, très bien, votre navigateur ne va pas vraiment bien fonctionner.

Jonathan Zittrain : Ouais. <rires> rires

Mark Zuckerberg : Mais, mais tu peux le faire si tu veux parce que tu devrais avoir ce contrôle. Je pense que c’est une partie intégrante, non ? C’est que je pense que beaucoup de gens pourraient aller éclaircir leur histoire sur une base périodique parce qu’ils… Ou, en fait, dans les recherches que nous avons faites à ce sujet, comme nous…Nous l’avons développé, la vraie chose que les gens nous ont dit qu’ils voulaient est similaire à la gestion des cookies, pas nécessairement tout effacer, parce que cela finit par les inconvénients de se déconnecter d’un tas de choses, mais il ya juste certains services ou applications que vous ne voulez pas que ces données soient connectés à votre compte Facebook. Ainsi, le fait d’avoir la capacité, sur une base ponctuelle, de dire : “Hé, arrêtez d’associer cette chose”, va finir par être une chose très importante que nous voulons essayer d’accomplir, je pense. C’est donc, c’est en partie à mesure que nous entrons dans le vif du sujet, c’est une chose plus complexe, mais je pense que c’est très utile. Et je pense que s’il y a une conversation au sujet des abonnements, je pense que vous devriez commencer par les donner aux gens et vous assurer que tout le monde a ce genre de contrôle. C’est donc dire que nous n’en sommes qu’aux premières étapes de ce processus. Je ne sais pas si vous laissez aussi les gens payer pour ne pas avoir d’annonces, c’est une question philosophique en aval. On s’est demandé si c’était vraiment une bonne chose, mais personnellement, je ne crois pas que beaucoup de gens aimeraient payer pour ne pas avoir d’annonces. Toutes les recherches que nous avons, c’est peut-être la bonne chose à faire, mais toutes les données que j’ai vues indiquent que la grande majorité des gens veulent un service gratuit et que les publicités, dans bien des endroits, ne sont même pas si différentes du contenu biologique en termes de qualité de ce que les gens peuvent voir.

Jonathan Zittrain : Ouais.

Mark Zuckerberg : Les gens aiment pouvoir obtenir de l’information des entreprises locales et d’autres choses du genre, alors. Il y a donc beaucoup de bien là-dedans.

Jonathan Zittrain : Ouais. Il y a quarante ans, c’était la question d’ABC contre HBO et la réponse s’est avérée oui.

<abattage> <abattage

Jonathan Zittrain : Donc tu as raison. Et les gens peuvent avoir des choses différentes.

Mark Zuckerberg : Oui.

Jonathan Zittrain : Il y a un petit paradoxe là-dedans : si quelque chose est si important et vital que nous ne voudrions priver personne de l’accès à l’information, mais que personne ne l’obtient tant que nous n’aurons pas trouvé comment l’enlever pour tout le monde.

Mark Zuckerberg : Qu’est-ce que-[ph ?] ++++

Jonathan Zittrain : En d’autres termes, si je pouvais acheter ma part de publicité et de collecte de données, ce ne serait pas juste pour ceux qui ne le peuvent pas et, par conséquent, nous continuons tous à le faire jusqu’aux progrès dont vous parlez.

Mark Zuckerberg : Oui, mais je suppose que ce que je dis concerne l’utilisation des données, je ne crois pas que ce soit quelque chose que les gens devraient acheter. Je pense que les principes que nous avons en matière de données doivent être uniformément accessibles à tous. Pour moi, c’est un principe très important. C’est, comme, peut-être que vous pourriez avoir une conversation sur le fait de savoir si vous devriez être capable de payer et de ne pas voir d’annonces. Ce n’est pas une question morale pour moi.

Jonathan Zittrain : Oui.

Mark Zuckerberg : Mais la question de savoir si vous pouvez payer pour avoir différents contrôles de confidentialité semble fausse. Pour moi, c’est quelque chose qui, dans toute conversation sur l’évolution vers un service d’abonnement, je pense qu’il faut d’abord avoir ces contrôles, et c’est une chose très profonde. Un problème technique à régler, mais c’est pour ça qu’on y travaille.

Jonathan Zittrain : Oui. Tant que les mesures de protection de la vie privée auxquelles nous ne pouvons pas souscrire ne sont pas des mesures de contrôle que les gens devraient avoir. Vous savez, c’est juste le genre de question sous-jacente qui se pose, c’est celle du système tel qu’il est, à savoir que nous ne pouvons pas nous retirer d’un système équitable. Et c’est bien sûr, vous savez, vous devez entrer dans les détails pour comprendre ce que vous entendez par là. Mais laissons le temps qu’il nous reste

Mark Zuckerberg : Où en sommes-nous avec le temps ?

Jonathan Zittrain : C’est bon pour nous. On en est à 76 minutes.

Mark Zuckerberg : D’accord, dans…

<abattage> <abattage

Mark Zuckerberg : Nous allons peut-être aborder la moitié des sujets.

Jonathan Zittrain : Ouais, ouais, ouais, ouais.

Mark Zuckerberg : Et je reviendrai en faire un autre plus tard.

Jonathan Zittrain : Je vais apporter ça pour un atterrissage bientôt. Sur ma gauche de l’ordre du jour, il y a des choses comme la sortie de la boîte de l’examen indépendant, discuter un peu de cela. Je serais curieux, et ce serait peut-être une bonne chose, en fait, en terminant, que vous ayez une idée de ce à quoi ressemblerait Facebook dans 10 ou 15 ans et à quel point il serait différent du Facebook d’il y a 10 ans par rapport à ce qu’il est actuellement. C’est donc quelque chose dont j’aimerais parler. Y a-t-il quelque chose d’important sur ta liste dont tu veux qu’on parle ?

Mark Zuckerberg : Elles sont bonnes. Ce sont de bons sujets.

Jonathan Zittrain : <rires> D’accord.

Mark Zuckerberg : <rires> rires

Jonathan Zittrain : Très bien, le comité d’examen externe.

Mark Zuckerberg : Ouais. L’une des grandes questions auxquelles je viens de penser, c’est que nous prenons beaucoup de décisions au sujet de l’application du contenu et de ce qui reste en place et de ce qui diminue. Après avoir travaillé sur les systèmes au cours des dernières années, l’un des thèmes qui me tiennent vraiment à cœur, c’est que nous ne devrions pas prendre autant de décisions nous-mêmes. Vous savez, l’une des façons dont j’essaie de raisonner à ce sujet, c’est de me retirer du poste de PDG de l’entreprise, presque comme une perspective rawlsienne. Si j’étais une personne différente, que voudrais-je que le PDG de l’entreprise puisse faire ? Et je ne voudrais pas que tant de décisions sur le contenu soient concentrées sur un seul individu. Alors…

Jonathan Zittrain : C’est bizarre de voir un grand impact, pour utiliser un mot terrible, des décisions sur ce qu’une grande partie de l’humanité fait ou ne voit pas inévitablement comme une question de service à la clientèle. J’ai l’impression qu’il y a un décalage, et c’est ce que je vous entends dire.

Mark Zuckerberg : Donc, oui, en fait, je pense que l’analogie avec le service à la clientèle est vraiment intéressante. C’est vrai. Donc, lorsque vous envoyez un courriel à Amazon, parce que ce n’est pas le cas, ils font une erreur avec votre colis, c’est du support client. C’est vrai. Je veux dire, ils essaient de fournir un service et, en général, ils peuvent investir davantage dans le soutien à la clientèle et rendre les gens plus heureux. On fait quelque chose de complètement différent.

Quand quelqu’un nous envoie un courriel avec un problème ou signale un contenu, il se plaint essentiellement de quelque chose que quelqu’un d’autre dans la communauté a fait. C’est donc plutôt comme si c’était presque un système judiciaire dans ce sens. Le fait d’en faire plus ne rend pas les gens heureux parce que dans chacune de ces transactions, une personne finit gagnante et une autre perdante. Soit vous avez dit que ce contenu, que le contenu était bien, auquel cas la personne qui se plaint est contrariée, soit vous, le contenu de quelqu’un, auquel cas la personne est vraiment contrariée parce que vous lui dites maintenant qu’elle n’a pas la capacité d’exprimer quelque chose qu’elle estime être une chose valable qu’elle devrait être capable d’exprimer.

Donc, dans un sens profond, bien qu’une partie de ce que nous faisons est le soutien à la clientèle, les gens sont bloqués hors de leur compte, et ainsi de suite, vous savez, nous avons maintenant plus de 30 000 personnes qui travaillent à l’examen du contenu et de la sécurité, qui font le genre de jugement qui, vous savez, c’est essentiellement beaucoup de choses, nous avons des systèmes de formation automatique qui signalent les choses qui pourraient être problématiques en plus des gens dans la communauté, mais qui se demandent si les choses sont bonnes ou non. Donc, l’une des questions auxquelles je pense, c’est comme, d’accord, eh bien, vous avez beaucoup de gens qui font ça.

Quel que soit leur niveau de formation, nous allons faire des erreurs, n’est-ce pas ? Il faut donc commencer à établir des principes autour de ce que l’on pourrait appeler l’application régulière de la loi, n’est-ce pas ? Nous nous dotons donc d’une capacité d’interjeter appel, ce qui est déjà très bien en ce sens que nous sommes en mesure de renverser un certain nombre d’erreurs commises par les personnes de première ligne lorsqu’elles font ces évaluations. Mais à un certain niveau, je pense que vous voulez aussi un niveau d’appel indépendant, d’accord, où si, disons, d’accord, les appels vont peut-être à un niveau supérieur d’employé de Facebook qui est un peu plus formé aux nuances des politiques ; mais à un certain point, je pense que vous avez aussi besoin d’un appel à un groupe indépendant, qui est, comme, cette politique est-elle équitable ? Est-ce que c’était… ? Par exemple, ce contenu est-il vraiment du mauvais côté de l’équilibre entre la liberté d’expression et la sécurité ? Et je ne pense pas qu’en fin de compte, c’est quelque chose qu’il faille centraliser au sein d’une seule entreprise. La question est donc maintenant de savoir comment concevoir ce système et c’est une vraie question, n’est-ce pas, afin que nous ne prétendions pas avoir les réponses à ce sujet. En gros, nous travaillons à l’élaboration d’une ébauche de proposition et nous travaillons avec de nombreux experts du monde entier pour mener quelques projets pilotes au cours du premier semestre de cette année qui, nous l’espérons, pourront être codifiés en quelque chose à long terme. Mais je crois que c’est une chose incroyablement importante. En tant que personne et si je mets de côté mon rôle de PDG de l’entreprise, je ne veux pas que l’entreprise soit en mesure de prendre toutes ces décisions finales sans contrôle et sans obligation de rendre compte, alors je veux utiliser le poste que je occupe pour aider à bâtir ce genre d’institution.

Jonathan Zittrain : Oui. Et lorsqu’on parle d’appel, on dirait qu’on pourrait interjeter appel de deux choses distinctes. D’abord, c’était la règle, mais elle a été mal appliquée dans mon cas. En fait, c’était de la parodie[ph ?], donc il ne faut pas la considérer comme proche de la ligne.

Mark Zuckerberg : Oui.

Jonathan Zittrain : Et je veux que l’organisme indépendant se penche là-dessus. L’autre serait que la règle est mauvaise. La règle devrait changer parce que-

Mark Zuckerberg : Oui.

Jonathan Zittrain : Et vous pensez que l’organisme indépendant pourrait peser sur les deux ?

Mark Zuckerberg : Ouais. Avec le temps, j’aimerais que le rôle de l’organisme de surveillance indépendant puisse s’élargir pour faire d’autres choses également. Je pense que la question est qu’il est déjà assez difficile de mettre en place quelque chose qui va codifier les valeurs que nous avons autour de l’expression et de la sécurité sur un sujet relativement défini.

Jonathan Zittrain : Ouais.

Mark Zuckerberg : Je pense donc que la question est de savoir si vous considérez cela comme une expérience de renforcement des institutions dans le cadre de laquelle nous essayons de construire cette chose qui va donner un véritable pouvoir à Jonathan Zittrain : Oui.

Mark Zuckerberg : Je veux dire, je ne pourrai pas prendre une décision qui renverse ce qu’ils disent. Ce qui, je pense, est une bonne chose. Je pense aussi que cela ne fait qu’augmenter les enjeux. Tu dois t’assurer qu’on fait ça bien, alors.

Jonathan Zittrain : C’est fascinant. C’est énorme. Je pense que la façon dont vous le décrivez, je ne voudrais pas le sous-estimer-

Mark Zuckerberg : Oui.

Jonathan Zittrain : Que ce n’est pas une façon habituelle de faire des affaires.

Mark Zuckerberg : Oui, mais je pense que c’est vraiment important pour moi de bien faire les choses.

Jonathan Zittrain : Ouais.

Mark Zuckerberg : Mais je pense qu’il faut commencer par quelque chose qui est relativement bien défini, puis l’élargir, espérons-le, pour pouvoir couvrir plus de choses avec le temps. Donc, au début, je pense qu’une question qui pourrait se poser, c’est ma compréhension, je veux dire, c’est toujours dangereux de parler de préséance juridique quand je suis, c’est peut-être l’une de mes premières fois à Harvard Law School. Je n’ai pas passé beaucoup de temps ici<abattage>

Mark Zuckerberg : Quand j’étais étudiant. Mais, vous voyez ce que je veux dire, si la Cour suprême renverse quelque chose, elle ne dit pas au Congrès ce que devrait être la loi, elle dit simplement qu’il y a un problème ici, non ? Et puis, en gros, il y a un processus. D’accord, c’est bon. Donc si je me trompe, si je me trompe d’homicide.

Mark Zuckerberg : D’accord, c’est bon. Je n’aurais pas dû faire ça.

Jonathan Zittrain : Non, non, non. C’est tout à fait honnête. [ph ?]

Mark Zuckerberg : Je savais que c’était dangereux.

<abattage> <abattage

Mark Zuckerberg : Et que c’était une erreur.

Jonathan Zittrain : Il y a des gens qui sont d’accord avec vous.

<abattage> <abattage

Mark Zuckerberg : D’accord. Oh, donc c’est une question ouverte que c’est comme ça que ça marche.

Jonathan Zittrain : C’est une question très débattue, oui.

Mark Zuckerberg : D’accord.

Jonathan Zittrain : Il y a le fait que je ne suis que l’arbitre qui appelle les balles et les grèves et, en fait, le premier type de question que nous avons soulevée, qui était : “Hé, nous comprenons que c’est la norme. Est-ce que ça s’applique ici ?” se prête un peu plus à, vous savez, vous obtenez trois balançoires et si vous les manquez toutes, comme, vous ne pouvez pas continuer à jouer. L’arbitre peut vous placer à l’écart du marbre. C’est que je suis en train d’approfondir mes connaissances sur le baseball. Il y a autre chose à propos de, comme, –

Mark Zuckerberg : C’est pas grave. Ce n’est pas moi qui vais t’appeler pour te dire de faire quelque chose de mal.

Jonathan Zittrain : Je vous en suis reconnaissant.

Mark Zuckerberg : C’est pourquoi j’ai aussi besoin d’avoir un bibliothécaire à mes côtés en tout temps. <Aughter>

Jonathan Zittrain : Très bien. Très bien. Je me demande ce que les bibliothécaires ont tendance à savoir sur le baseball. <l’abattage>.

Mark Zuckerberg : Aww.

Jonathan Zittrain : Mais on s’écarte du sujet. Ah, nous allons recevoir des lettres, des mentions.

Mark Zuckerberg : Oui.

<abattage> <abattage

Jonathan Zittrain : Mais que le jeu soit bon ou non avec une règle de trois prises, peut-être qu’il devrait y en avoir deux, quatre ou quoi que ce soit, commence à demander à l’arbitre plus que simplement, vous savez, votre meilleur sens de la façon dont le jeu vient de se passer. Les deux sont peut-être quelque chose. Les deux sont sûrement au-delà des problèmes habituels du service à la clientèle, et les deux pourraient peut-être être utilement externalisés. Ce que vous demanderiez au conseil d’administration de faire dans la catégorie 1, c’est peut-être vrai que, par exemple, l’arbitrage professionnel[ph ?] pourrait nous aider et il y a des gens qui sont juristes et qui peuvent le faire dans le monde entier. Pour l’autre, qu’il s’agisse du Suprême

Jonathan Zittrain :… tribunal, ou ce qu’on appelle les tribunaux de common law et les tribunaux d’État, où souvent une cour suprême d’État se dit : “Désormais, 50 pieds doit être la hauteur d’un filet de baseball” et “Si vous n’êtes pas d’accord, législature, nous allons vous entendre, mais en attendant c’est 50 pieds.”Ils s’infiltrent vraiment dans l’herbe. Ils tirent peut-être une certaine légitimité à de telles décisions du fait qu’ils sont proches de leur communauté, ce qui les ramène à une question de légitimité : Facebook est-il une communauté mondiale, une communauté de 2,X milliards de personnes dans le monde, transcendant toutes les frontières nationales, et pour laquelle je pense jusqu’à présent sur ces questions, il est censé être, “La règle est la règle”, il ne change pas vraiment en termes de service d’un endroit à un autre, mais dans quelle mesure pensons-nous qu’il soit localisé ou non – que ce le gouvernement en décide ainsi -, que les différentes communautés locales portent leur propre jugement ?

Mark Zuckerberg : C’est l’une des grandes questions. Je veux dire, à l’heure actuelle, nous avons des normes communautaires qui sont mondiales. Nous suivons les lois locales, comme vous dites. Mais je pense que l’idée est – je ne pense pas que nous voulions nous retrouver dans un endroit où les normes sont très différentes d’un endroit à l’autre, mais nous voulons avoir un certain sens de la représentation et nous assurer que l’organe qui peut délibérer à ce sujet a une bonne diversité de vues. Donc ce sont beaucoup de choses que nous essayons de comprendre, c’est comme : Quelle est la taille du corps ? Lorsque les décisions sont prises, sont-elles prises par l’ensemble du corps, ou avez-vous des groupes de personnes qui sont des ensembles plus petits ? S’il y a des panels, comment s’assurer que l’on n’obtient pas un échantillon aléatoire qui, du point de vue des valeurs, n’est pas biaisé par rapport à une chose ? Il y a donc toute une série de mécanismes comme, d’accord, peut-être qu’un groupe d’experts constitué au hasard décide si le conseil d’administration se penchera sur une question ou sur l’une des questions, mais c’est un groupe d’experts aléatoire distinct du groupe qui prend les décisions, ce qui élimine le risque qu’un groupe donné soit trop idéologiquement déséquilibré. Il y a donc un certain nombre de choses auxquelles nous devons réfléchir et auxquelles nous devons réfléchir, mais l’objectif est de faire en sorte qu’avec le temps, nous puissions en arriver à quelque chose qui nous permettra de mieux rendre des comptes et de surveiller un plus grand nombre de questions difficiles, mais je pense que les enjeux sont si élevés que commencer avec quelque chose qui est relativement défini sera la bonne façon de procéder au départ. Donc, même si je n’étais pas au courant de la controverse entourant la question juridique que j’ai soulevée il y a une seconde, je pense qu’il est logique, dans notre cas, de ne pas demander à ce groupe de dire quelles seront les politiques, mais de pouvoir dire “Hé, nous pensons que vous êtes du mauvais côté, et peut-être devriez-vous repenser où est la politique car nous croyons que vous êtes du mauvais côté.”Il y a une autre chose qui, à mon avis, vaut la peine d’être mentionnée, c’est un genre d’analogue judiciaire typique, ou du moins ici aux États-Unis.., D’après ce que j’ai compris, il y a la possibilité d’interjeter appel auprès d’un conseil d’administration indépendant, mais je pense aussi que nous voulons avoir une voie de recours qui nous permettrait, en tant qu’entreprise, de soulever des questions difficiles qui se présentent au conseil sans avoir de mécanisme, ce que je ne sais pas vraiment s’il existe un mécanisme pour ce genre d’affaire.

Jonathan Zittrain : C’est ce qu’on appelle un avis consultatif.

<rires de l’auditoire>> rires de l’auditoire

Jonathan Zittrain : Mais en vertu de la loi fédérale américaine, ce n’est pas permis en raison de l’Article III ou de l’exigence de Controverse, mais les tribunaux des États le font tout le temps. Il arrive qu’un tribunal fédéral dise – parce qu’il s’agit d’un tribunal fédéral, mais qu’il décide quelque chose en vertu de la loi de l’État. “Je ne sais pas, demandez à la Floride.” Et ils diront :”Hé, la Floride,” et puis la Floride, c’est la Floride, c’est juste la Floride.

<rires de l’auditoire>> rires de l’auditoire

Mark Zuckerberg : Bien sûr. Donc je pense que-

Jonathan Zittrain : Vous pouvez donc faire un avis consultatif.

Mark Zuckerberg :… cela finira par jouer un rôle important dans tout cela aussi. Nous n’arriverons jamais à nous soustraire à la tâche de porter des jugements de première ligne. Les systèmes d’IA signaleront les contenus qui, selon eux, vont à l’encontre des politiques ou pourraient l’être, puis nous aurons des gens – cet ensemble de 30 000 personnes, qui est en croissance – qui sont formés pour comprendre fondamentalement quelles sont ces politiques. Nous devons prendre des décisions de première ligne, parce que beaucoup de ces questions doivent être traitées en temps opportun, et un processus plus délibératif qui tient compte de l’équité et des politiques dans leur ensemble devrait se dérouler sur une période différente de ce qui est souvent pertinent, soit l’application de la politique initiale. Mais je pense que, dans l’ensemble, pour bon nombre des questions les plus importantes, je veux simplement bâtir un processus plus indépendant.

Jonathan Zittrain : Eh bien, comme vous l’avez dit, c’est un domaine qui présente une complexité fractale de la meilleure des façons, et c’est vraiment terra incognito, et ce serait intéressant de voir comment il pourrait être construit. J’imagine qu’il y a un certain nombre de professeurs de droit partout dans le monde, y compris certains qui viennent de pays de droit civil plutôt que de pays de common law, qui sont du genre “C’est comme ça que ça marche ici”, d’où vous pourriez puiser. Une autre question qui subsiste est celle de savoir si les avocats ont souvent une mauvaise réputation. Je ne sais pas pourquoi. Mais ils sont souvent le ciment d’un tel système, de sorte qu’un juge n’a pas à être oraculaire ou omniscient. Il y a un processus où l’avocat de l’une des parties fait une tonne de travail et examine les décisions antérieures du conseil et dit : “Voilà ce qui serait cohérent”, et l’autre avocat revient, puis le juge décide simplement entre les deux, au lieu de devoir tout savoir. Il y a ici un énorme compromis à faire pour chaque décision sur le contenu qui fait l’objet d’un appel, la mesure dans laquelle nous voulons l’intégrer dans une affaire, et vous avez besoin d’experts pour aider les parties, alors que chacune d’elles se présente simplement devant Salomon et dit “Ce genre de chose est arrivée”, et/ou la juge Judy est peut-être une référence plus contemporaine.

Mark Zuckerberg : Quelque part entre les deux, oui.

<rires de l’auditoire>> rires de l’auditoire

Jonathan Zittrain : Ouais. C’est donc beaucoup de choses – et pour moi, je me trouve moi-même – je ne sais pas si c’est la définition de prurien – à la fois excité et quelque peu terrifié par cela, mais en disant que c’est mieux qu’un statu quo, ce qui est le cas, je pense, vous et moi, et peut-être un modèle pour les autres entreprises qui existent. C’est donc la dernière question qui me vient à l’esprit dans ce domaine : Quelle partie de ce que vous développez chez Faceboo – dont une grande partie est vraiment gourmande en ressources – est considérée comme un bien public à partager, y compris entre concurrents, par opposition à ” Cela fait partie de notre avantage comparatif et notre sauce secrète ” ? Si vous développez un algorithme particulièrement bon qui peut très bien détecter les fausses nouvelles, les spammeurs ou les mauvais acteurs – vous avez les doctorats, vous avez les processeurs – est-ce que c’est comme, “Dans votre visage, Schmitter[ph ?Nous devrions avoir quelqu’un qui – un organisme – peut aider à démocratiser cette avancée ” ? Et il pourrait en être de même pour ces décisions de contenu. Qu’est-ce que tu en penses ?

Mark Zuckerberg : Oui, le partage des menaces et le travail en matière de sécurité que vous venez de mentionner est certainement un bon domaine où la collaboration est beaucoup plus efficace aujourd’hui qu’elle ne l’a été historiquement. Je pense que c’est simplement parce que tout le monde reconnaît que c’est une question tellement plus importante. En passant, la collaboration avec les gouvernements est maintenant beaucoup plus efficace dans ce domaine, et pas seulement avec les nôtres ici aux États-Unis et dans le domaine de l’application de la loi, mais dans le monde entier, avec les commissions électorales et l’application de la loi, car il y a simplement une conscience générale que ce sont des questions et que –

Jonathan Zittrain : Surtout si vous avez des acteurs étatiques comme adversaires.

Mark Zuckerberg : Oui. C’est donc certainement un domaine où la collaboration s’est beaucoup améliorée, et c’est une bonne chose. Il y a encore des problèmes. Par exemple, si vous êtes de la police ou du renseignement et que vous avez développé un- “source” n’est pas le bon mot- mais essentiellement si vous avez identifié quelqu’un comme une source de signaux que vous pouvez regarder et apprendre, alors vous ne voudrez peut-être pas venir nous voir et nous dire, “Hey, nous”.ve a identifié que cet acteur étatique fait cette mauvaise chose “, parce qu’alors la chose naturelle que nous allons vouloir faire est de nous assurer qu’ils ne sont pas dans notre système en train de faire de mauvaises choses, ou qu’ils ne sont pas dans le système du tout, ou que nous interférons avec les mauvaises choses qu’ils essaient de faire. Il y a donc une certaine disparité dans les incitatifs, mais au fur et à mesure que vous établissez des relations et de la confiance, vous pouvez en arriver à ce genre de relation où l’on peut aussi vous dire : “Hé, voilà où nous en sommes. Et je pense que la sécurité et la sûreté sont probablement le plus grand domaine de ce genre de collaboration à l’heure actuelle, parmi tous les différents types de menaces ; pas seulement les élections et les processus démocratiques, mais tout type de problème de sécurité. L’autre domaine dans lequel j’ai tendance à penser à ce que nous faisons, c’est qu’il devrait être ouvert, c’est l’infrastructure technique dans son ensemble. Je veux dire, c’est probablement un article moins controversé, mais nous libéralisons un grand nombre des éléments de base qui font fonctionner nos systèmes, et je pense que c’est une contribution dont je suis très fier.

Nous avons en quelque sorte été les pionniers de cette façon de penser sur la façon dont les gens se connectent, et le modèle de données qui l’entoure est davantage un graphique, et l’idée d’une base de données graphique et d’une grande partie de l’infrastructure pour pouvoir accéder efficacement à ce genre de contenu est largement applicable au-delà du contexte d’un réseau social, je pense.

Lorsque j’étais étudiant au premier cycle, même si je n’y suis pas resté très longtemps, j’ai étudié la psychologie et l’informatique, et pour moi, ma philosophie de base dans ce domaine est que les gens devraient être au centre de la plupart des technologies que nous développons. Je veux dire, l’une des premières choses que j’ai reconnues quand j’étais étudiant, c’est qu’à l’époque, il y avait des sites Internet pour trouver presque tout ce qui vous intéressait, qu’il s’agisse de livres, de musique, de nouvelles, d’informations ou d’entreprises, mais nous, les gens, pensons au monde principalement en fonction des autres, pas en fonction des autres objets, pas en fonction du contenu ou du commerce ou de la politique, mais en fonction…L’une des missions qui me tiennent à cœur est d’encourager au fil du temps le développement technologique dans l’ensemble de l’industrie de la technologie afin de développer les choses dans cet état d’esprit. Je pense – et c’est un peu la tangente – mais la façon dont nos téléphones fonctionnent aujourd’hui, et tous les systèmes informatiques, organisés autour des applications et des tâches, ne sont pas fondamentalement comment les gens – comment notre cerveau fonctionne et comment nous abordons le monde. Ce n’est pas le cas, c’est donc l’une des raisons pour lesquelles je suis très enthousiaste à plus long terme, surtout en ce qui concerne des choses comme la réalité augmentée, parce que cela nous donnera une plate-forme qui, je pense, nous permettra de penser les choses de la même façon. Nous serons en mesure de mettre au monde les objets informatiques, mais fondamentalement, nous interagirons en tant que personnes autour d’eux. Le tout ne sera pas organisé autour d’une application ou d’une tâche ; il sera organisé autour de personnes, et je pense que c’est un système beaucoup plus naturel et humain pour la façon dont notre technologie devrait être organisée. Donc, l’ouverture de toute cette infrastructure – pour ce faire, et le fait de permettre non seulement à nous, mais aussi à d’autres entreprises, d’intégrer cet état d’esprit dans leur réflexion et dans les fondements techniques de celle-ci – est une chose à laquelle je tiens beaucoup.

Jonathan Zittrain : Eh bien, c’est bien, et cela nous amène ici pour notre atterrissage, parce que nous parlons de 10, 20, 30 ans à l’avance. En tant que terme d’art, je comprends la réalité augmentée comme signifiant, “J’ai une visière” version 0.1 était Google Glass-quelque chose où je suis un peu dans le monde mais je suis littéralement en ligne en même temps parce qu’il y a des données qui me viennent à l’esprit, c’est de cela que vous parlez, exact ?

Mark Zuckerberg : Ouais, bien que ça devrait vraiment être des lunettes comme ce que tu as. Je pense qu’il faudra peut-être qu’ils soient un peu plus gros, mais pas trop gros, sinon ça commencerait à devenir bizarre.

<rires de l’auditoire>> rires de l’auditoire

Mark Zuckerberg : Donc je ne pense pas qu’une visière va s’accrocher. Je ne pense pas que personne ne soit enthousiasmé par cette fonctionnalité.

Jonathan Zittrain : Et tout ce qui implique une intervention chirurgicale commence à sembler un peu mauvais aussi.

Mark Zuckerberg : Non, non, non, nous sommes définitivement concentrés sur-

<rires de l’auditoire>> rires de l’auditoire

Mark Zuckerberg :… sur les choses extérieures. Bien que-

Jonathan Zittrain : “Ne faites pas les nouvelles, ne faites pas les nouvelles, ne faites pas les nouvelles.”

<rires de l’auditoire>> rires de l’auditoire

Mark Zuckerberg : Non, non, non, non. Bien que nous ayons montré cette démo de base peut quelqu’un peut taper en pensant, et bien sûr quand vous parlez d’interfaces cerveau-ordinateur, il y a deux dimensions de ce travail. Il y a l’aspect externe, et il y a l’aspect interne, et l’aspect envahissant, et oui, bien sûr, si vous essayez vraiment de construire des choses que tout le monde va utiliser, vous allez vouloir vous concentrer sur les choses non envahissantes.

Jonathan Zittrain : Oui. Pouvez-vous taper en pensant ?

Mark Zuckerberg : Vous le pouvez.

Jonathan Zittrain : Ça s’appelle une planche Ouija. Non. Mais vous sous-vocalisez assez ou il y a assez de lecture de…

Mark Zuckerberg : Non, non, non, non. Il y a donc en fait une partie de la recherche ici- il y a une question de débit et de rapidité avec laquelle on peut taper et combien de bits on peut exprimer efficacement, mais la base de base de la recherche est quelqu’un- un groupe de gens qui font cette recherche a montré un groupe de personnes des images- je pense que ce sont des animaux- donc “Voici un éléphant, voilà”.Tout en ayant une sorte de filet sur la tête, une lumière non invasive, mais brillante, et donc en regardant le niveau d’activité sanguine et le flux et l’activité du sang dans le cerveau, une girafe a entraîné une machine à apprendre à quoi ressemblait le modèle de cette imagerie lorsque la personne regardait différents animaux, puis lui a demandé de penser à un animal, non ? Pensez-y – il suffit de choisir l’un des animaux auxquels penser, et vous pouvez prédire ce à quoi la personne pensait en gros, en vous basant uniquement sur l’activité neuronale. La question est donc de savoir si vous pouvez l’utiliser pour taper.

Jonathan Zittrain : Les implications du cinquième amendement sont stupéfiantes. <Rire de l’auditoire> <Rire de l’auditoire

Jonathan Zittrain : Désolée.

Mark Zuckerberg : Eh bien, oui. Je veux dire, c’est probablement quelque chose que quelqu’un choisirait d’utiliser un produit. Je ne suis pas… ouais, ouais, ouais. Je veux dire, oui, il y a bien sûr toutes les autres implications, mais oui, je pense que ça va être une chose intéressante en fin de compte.

Jonathan Zittrain : Mais en gros, votre vision de l’avenir.

Mark Zuckerberg : Je ne sais pas comment on en est arrivés là.

<rires de l’auditoire>> rires de l’auditoire

Jonathan Zittrain : Tu ne peux pas m’en vouloir. Je pense que tu en as parlé.

Mark Zuckerberg : Je l’ai fait, mais de toutes les choses que je veux dire, c’est excitant, mais nous n’avons même pas encore couvert la façon dont nous devrions parler de la réglementation de la technologie et de toutes ces choses que je pensais que nous allions aborder. Je veux dire, on sera là pendant six ou sept heures. Je ne sais pas combien de jours tu veux passer ici à parler de ça, mais-

Jonathan Zittrain : “Nous sommes ici au Centre Zuckerberg et la prise d’otages.”

<rires de l’auditoire>> rires de l’auditoire

Jonathan Zittrain : “Le bâtiment est encerclé.”

Mark Zuckerberg : Ouais. Mais je pense qu’un peu de technologie et de recherche futures est aussi intéressant, donc.

Jonathan Zittrain : S’il vous plaît.

Mark Zuckerberg : Oui, c’est bon.

Jonathan Zittrain : Oh, on l’a couvert, c’est ce que vous dites.

<rires de l’auditoire>> rires de l’auditoire

Mark Zuckerberg : Je veux dire, mais pour en revenir à votre question sur ce qui – si c’est le dernier sujet – ce qui m’enthousiasme pour les 10 ou 20 prochaines années – je pense qu’à long terme, remodeler nos plateformes informatiques pour qu’elles soient essentiellement axées sur les gens et la façon dont nous traitons le monde est vraiment une chose fondamentale. À plus court terme, soit dans cinq ans, je pense que la tendance est clairement à une communication plus privée. Si vous regardez toutes les différentes façons dont les gens veulent partager et communiquer sur Internet – mais nous avons une bonne idée de la force croisée, qu’il s’agisse de messages individuels ou d’émissions publiques – c’est la communication privée qui se développe le plus rapidement. N’est-ce pas ?

Ainsi, entre WhatsApp et Messenger, et Instagram maintenant, juste le nombre de messages privés – c’est environ 100 milliards par jour par le biais de ces seuls systèmes, en croissance très rapide, en croissance beaucoup plus rapide que la quantité que les gens veulent partager ou diffuser dans un système de type flux. Parmi le type de contenu radiodiffusé que les gens diffusent, ce sont les histoires qui croissent le plus rapidement, et de loin. N’est-ce pas ?

Je pense donc que cela vous donne une idée de l’orientation que prend le centre de l’activité sociale. C’est aussi notre façon de penser la stratégie de l’entreprise. Je veux dire, les gens – quand on parle de protection de la vie privée, je pense que beaucoup de questions portent souvent sur les politiques de protection de la vie privée et les choses de nature juridique ou politique, et sur la protection de la vie privée comme une chose à ne pas enfreindre, et sur la nécessité de s’assurer que l’on est dans l’équilibre de ce qui est bien. Mais en fait, je pense qu’il y a beaucoup plus – il y a un autre élément qui est vraiment fondamental, c’est que les gens veulent des outils qui leur donnent de nouveaux contextes pour communiquer, et c’est aussi fondamentalement de donner du pouvoir aux gens par la vie privée, pas seulement en ne violant pas la vie privée, non ? Donc, ne pas violer la vie privée est un filet de sécurité, mais en fait – vous pouvez penser à tout le succès que Facebook a eu – c’est un peu contre-intuitif – parce que nous avons donné aux gens de nouveaux moyens privés ou semi-privés de communiquer des choses qu’ils n’auraient pas eues auparavant.

Par conséquent, considérer Facebook comme un innovateur en matière de protection de la vie privée n’est certainement pas le point de vue dominant, mais pour en revenir à la toute première chose que nous avons faite, faire en sorte que les étudiants de Harvard puissent communiquer d’une manière telle qu’ils aient une certaine confiance que leur contenu et leur information seraient partagés uniquement avec des personnes de cette communauté, il n’y avait aucun moyen que les gens aient à communiquer à cette échelle, mais pas seulement en public ou avec un petit groupe de personnes auparavant. Et le désir des gens d’être compris, de s’exprimer et de pouvoir communiquer avec toutes sortes de groupes différents est, d’après mon expérience, presque illimité, et si vous pouvez donner aux gens de nouveaux moyens de communiquer et de s’exprimer en toute sécurité, alors c’est quelque chose dont les gens ont une soif et un désir profonds.

Le chiffrement est donc très important, parce que je veux dire que nous tenons pour acquis aux États-Unis qu’il y a une bonne règle de droit et que le gouvernement n’est pas trop présent dans nos affaires, mais dans beaucoup d’endroits dans le monde, surtout là où WhatsApp est le plus important, les gens ne peuvent pas tenir cela pour acquis. Ainsi, le fait d’avoir la certitude que vous partagez quelque chose en tête-à-tête et que ce n’est pas – et c’est vraiment un contre un, ce n’est pas un contre un et le gouvernement là-bas – fait en sorte que les gens puissent partager des choses qu’ils ne seraient pas à l’aise de faire autrement. C’est le pouvoir que vous donnez aux gens en innovant en matière de protection de la vie privée.

Il y a beaucoup de choses que les gens ne veulent pas voir dans le dossier permanent, mais qu’ils veulent exprimer, et ce n’est pas un hasard si c’est la principale façon dont les gens veulent partager avec tous leurs amis, au lieu de mettre quelque chose dans un flux qui va sur leur dossier permanent. Il y aura toujours une utilité à cela aussi – les gens veulent avoir un disque et il y a beaucoup de valeur que vous pouvez construire autour de cela – vous pouvez avoir des discussions à plus long terme – c’est plus difficile de le faire autour des histoires. Il y a une valeur différente pour ces choses-là. Mais au cours des cinq prochaines années, je pense que nous allons voir tous les réseaux sociaux se reconstituer autour de cette base de communication privée, et c’est quelque chose dont je suis très enthousiaste. Je pense que ça va permettre à beaucoup de gens de s’exprimer et de communiquer des choses qu’ils n’avaient pas les outils pour faire avant, et ça va être la base pour construire beaucoup d’outils vraiment importants en plus de ça aussi.

Jonathan Zittrain : C’est si intéressant pour moi. Je n’aurais pas prédit cette orientation pour les cinq prochaines années. Je me serais dit : “Si tu sais déjà à qui tu veux parler, il y a tellement d’outils pour parler avec eux”, certains sont de bout en bout, d’autres non, d’autres encore sont rollyourown et open-source, et là’.C’est toujours une façon d’essayer de rendre les choses plus faciles et meilleures, mais cela me semble un peu comme une sorte d’espace surpeuplé, ne connaissant pas encore les innovations qui pourraient voir le jour et les moyens de communiquer avec les gens à qui vous savez déjà que vous voulez parler. Et pour cela, comme vous le dites, si c’est le cas, vous avez raison de dire que le chiffrement sera une grande question, et par ailleurs la conception technique de sorte que si la loi vient frapper à la porte, que pourrait dire l’entreprise ?

C’est l’affaire Apple iPhone Cupertino – désolé, San Bernardino et ça me rappelle aussi qu’il y aura des implémentations peer-to-peer des choses auxquelles vous pensez qui n’auront peut-être même pas besoin du serveur, et c’est essentiellement juste une application que les gens utilisent, et si elle va diffuser une publicité, elle peut encore le faire côté application, et combien les gouvernements vont la respecter. Ils n’ont pas, pour la plupart, exigé de mandats technologiques pour remodeler la façon dont la technologie fonctionne. Ils disent simplement : “Si vous l’avez – en partie parce que vous voulez diffuser des publicités – c’est ce que nous voulons.”Mais si vous ne l’avez même pas, il est rare que les gouvernements disent : “Eh bien, vous devez construire votre système pour le faire”, comme c’était le cas avec le système téléphonique à l’époque. La CALEA, la Communications Assistance to Law Enforcement Act, avait une loi fédérale aux États-Unis qui disait : “Si vous êtes dans le domaine de la construction d’un réseau téléphonique, AT&T, vous devez le faire pour que nous puissions vous brancher lorsque vous passez au numérique”, et nous n’avons pas encore beaucoup vu ces mandats dans le domaine des logiciels Internet. Nous pouvons donc nous attendre à ce que cela se reproduise. Mais c’est tellement drôle, parce que si vous me l’aviez demandé, j’aurais pensé que c’était de rencontrer des gens que vous n’aviez jamais rencontrés auparavant et d’interagir avec eux, pour lesquels tout ce qui concerne le contrôle de la circulation aérienne, ce qui entre dans votre alimentation et la quantité de vos produits est partagé… toutes ces questions commencent à prendre de l’importance, et cela m’amène à penser : ” Je devrais être capable de faire une recette d’aliments pour animaux qui soit ma recette, et de la remplir en fonction des variables Facebook, mais je peux dire quelles sont les variables.”Mais je pourrais voir que si vous ne pensez qu’aux gens qui communiquent avec les gens qu’ils connaissent déjà et qu’ils aiment, c’est un domaine très différent.

Mark Zuckerberg : Ce n’est pas nécessairement – ce n’est pas seulement les gens que vous connaissez déjà. Je pense que nous nous sommes vraiment concentrés sur les amis et la famille au cours des 10 ou 15 dernières années, et je pense qu’une grande partie de ce sur quoi nous allons nous concentrer maintenant consiste à bâtir des collectivités de différentes façons et tous les services publics sur lesquels vous pouvez bâtir, une fois que vous aurez un réseau comme celui-ci en place. Donc tout, de la façon dont les gens peuvent faire du commerce mieux à des choses comme les rencontres, ce qui est – beaucoup de rencontres se passent sur nos services, mais nous n’avons pas construit d’outils spécifiquement pour cela.

Jonathan Zittrain : Je me souviens de l’expérience commune sur Facebook – “experiment” est une étude de mots si terrible, par laquelle on pourrait prédire quand deux membres de Facebook vont se déclarer dans une relation, des mois avant la déclaration elle-même. Je pensais que certains des produits auxiliaires étaient de la belle-famille.

Mark Zuckerberg : C’était très tôt. Ouais. Vous avez donc raison de dire qu’il s’agira en grande partie d’un service public sur lequel vous pourrez bâtir, mais beaucoup de ces choses sont fondamentalement privées, n’est-ce pas ? Donc, si vous pensez au commerce, que les gens ont des attentes plus élevées en matière de protection de la vie privée, et la question est : est-ce que le bon contexte pour cela sera autour d’une application comme Facebook, qui est large, ou une application comme Instagram ?

Je pense que c’est en partie la partie découverte, je pense que nous serons très bien servis là-bas, mais ensuite nous passerons aussi à quelque chose que les gens veulent plus d’intimité et de sécurité. Quoi qu’il en soit, nous pourrions probablement continuer pendant de nombreuses heures à ce sujet, mais peut-être devrions-nous garder ceci pour la deuxième série de négociations que nous ferons à l’avenir.

Jonathan Zittrain : En effet. Merci beaucoup d’être venus, d’avoir parlé aussi longuement, d’avoir couvert un tel éventail de sujets kaléidoscopiques, et nous avons hâte de vous revoir la prochaine fois que nous vous verrons.

Mark Zuckerberg : Oui. Merci. Merci.

Jonathan Zittrain : Merci. Merci.

applaudissements du public> < applaudissements du public