Passer au contenu Début du contenu

ETHI Réunion de comité

Les Avis de convocation contiennent des renseignements sur le sujet, la date, l’heure et l’endroit de la réunion, ainsi qu’une liste des témoins qui doivent comparaître devant le comité. Les Témoignages sont le compte rendu transcrit, révisé et corrigé de tout ce qui a été dit pendant la séance. Les Procès-verbaux sont le compte rendu officiel des séances.

Pour faire une recherche avancée, utilisez l’outil Rechercher dans les publications.

Si vous avez des questions ou commentaires concernant l'accessibilité à cette publication, veuillez communiquer avec nous à accessible@parl.gc.ca.

Publication du jour précédent Publication du jour prochain
Passer à la navigation dans le document Passer au contenu du document






Emblème de la Chambre des communes

Comité permanent de l'accès à l'information, de la protection des renseignements personnels et de l'éthique


NUMÉRO 152 
l
1re SESSION 
l
42e LÉGISLATURE 

TÉMOIGNAGES

Le mardi 28 mai 2019

[Enregistrement électronique]

  (0830)  

[Traduction]

    Je déclare ouverte la 152e séance du Comité permanent de l'accès à l'information, de la protection des renseignements personnels et de l'éthique. Aujourd'hui, à Ottawa, nous accueillons le Grand Comité international sur les mégadonnées, la protection des renseignements personnels et la démocratie.
    Je vais effectuer un survol rapide des pays. Nous ne procéderons pas aux présentations parce que cela prendrait trop de temps, malheureusement.
    Nous accueillons des représentants du Royaume-Uni. Damian Collins, coprésident du Grand Comité international, m'accompagne aujourd'hui. Il formulera des commentaires dans quelques minutes.
    Nous accueillons des représentants du Parlement de Singapour, des chambres de l'Oireachtas de l'Irlande, du Parlement de la République fédérale d'Allemagne, de la Chambre des députés de la République du Chili, du Parlement de la République d'Estonie, du Sénat des États-Unis du Mexique, de la Chambre des représentants du Royaume du Maroc, de l'Assemblée nationale de la République de l'Équateur, de l'Assemblée législative de la République du Costa Rica et, enfin de l'Assemblée de Sainte-Lucie.
    Je veux présenter mon coprésident, M. Damian Collins.
    Bienvenue.
    Je suis ravi d'être des vôtres, ici, à Ottawa.
    Il est formidable de constater que le Grand Comité, depuis sa première séance tenue à Londres, au mois de novembre, compte de nouveaux membres qui sont ici aujourd'hui pour représenter des pays supplémentaires. Je pense que cela montre simplement à quel point ces enjeux ne font que prendre de l'ampleur. Je suis certain que les discussions d'aujourd'hui ajouteront grandement à ce débat.
    Tout à fait. Je vous remercie, monsieur Collins.
    Nous allons commencer par nos témoins de ce matin.
    Nous accueillons M. Jim Balsillie, président, Centre pour l'innovation dans la gouvernance internationale; M. Roger McNamee, auteur de Zuckeo; et Shoshana Zuboof, auteure de The Age of Surveillance Capitalism. Le dernier témoin, mais certainement pas le moindre, nous vient de Manille, aux Philippines; il s'agit de Maria Ressa, présidente-directrice générale et directrice de la rédaction de Rappler Inc. Toutes ces personnes témoignent à titre personnel.
    Aujourd'hui, nous allons commencer par notre très cher Jim Balsillie.
    Allez-y.
    Messieurs les coprésidents, mesdames et messieurs, je suis honoré et privilégié de témoigner aujourd'hui.
    La gouvernance des données représente le plus important enjeu de politique publique de notre époque. Elle recoupe les dimensions économique, sociale et relative à la sécurité. Elle exige des cadres stratégiques nationaux et une coordination internationale.
    Au cours des trois dernières années, MM. Zimmer, Angus et Erskine-Smith ont mené un effort bipartite canadien visant à aborder la question de la gouvernance des données. Le sérieux et l'intégrité qu'ils apportent à la tâche sont une source d'inspiration pour moi.
    Le point de vue que je présente est celui d'un capitaliste œuvrant en tant qu'entrepreneur à l'échelle mondiale dans le secteur des technologies depuis 30 ans. Je suis l'ancien président et co-PDG de Research in Motion, une entreprise technologique canadienne que nous avons fait passer d'une simple idée à une entreprise dont les ventes ont atteint 20 milliards de dollars. La plupart des gens connaissent l'emblématique téléphone intelligent BlackBerry; notre entreprise était en fait une plateforme reliant des dizaines de millions d'utilisateurs à des milliers d'applications destinées aux consommateurs et aux entreprises, par l'intermédiaire de quelque 600 sociétés de téléphonie cellulaire dans plus de 150 pays. Nous avions compris comment exploiter la loi de Metcalfe sur les effets de réseau afin de créer une entreprise appartenant à une nouvelle catégorie. Je possède donc une connaissance approfondie des stratégies d'entreprise à plateformes multifaces ainsi que de l'interface reliant le milieu des affaires et celui des politiques publiques.
    Je commencerai par formuler plusieurs observations au sujet de la nature, de l'ampleur et de la portée du défi collectif à relever.
    Premièrement, la désinformation et les fausses nouvelles ne sont que deux des nombreux résultats négatifs associés aux modèles d'entreprise non réglementés fondés sur l'attention. On ne peut pas les adopter séparément. Il faut s'y attaquer horizontalement dans le cadre d'une approche intégrée. Se ronger les sangs à propos du rôle des médias sociaux dans la prolifération en ligne de la haine, des théories du complot, de la désinformation motivée politiquement et du harcèlement revient à passer à côté de l'origine et de l'ampleur du problème.
    Deuxièmement, la toxicité des médias sociaux n'est pas un bogue, il s'agit d'une caractéristique. La technologie fonctionne exactement comme elle a été conçue. Les produits, services et réseaux technologiques ne sont pas créés en vase clos. Les habitudes d'utilisation dictent les décisions en matière d'élaboration de produits. Des scientifiques spécialisés dans le comportement ayant participé à l'établissement des plateformes d'aujourd'hui contribuent à la conception d'expériences utilisateurs qui exploitent les réactions négatives, parce qu'elles sont beaucoup plus mobilisatrices que les réactions positives.
    Troisièmement, parmi les nombreux renseignements précieux fournis par les dénonciateurs de l'industrie des technologies, mentionnons la citation suivante: « La dynamique de l'économie de l'attention est structurellement conçue pour saper la volonté humaine. » La démocratie et les marchés fonctionnent lorsque les gens peuvent faire des choix qui correspondent à leurs intérêts. Le modèle d'entreprise fondé sur la publicité en ligne subvertit le libre choix et représente une menace fondamentale pour les marchés, l'intégrité des élections et la démocratie proprement dite.
    Quatrièmement, la technologie tire son pouvoir du contrôle des données. Les données à l'échelon micropersonnel lui procurent un pouvoir d'influence sans précédent. Les données s'apparentent non pas au pétrole, mais au plutonium: elles sont incroyablement puissantes, dangereuses lorsqu'elles se répandent et difficiles à nettoyer et elles entraînent de graves conséquences quand elles sont utilisées de façon inappropriée. Les données déployées par le truchement des réseaux 5G de la prochaine génération transforment l'infrastructure passive en véritables systèmes nerveux numériques.
    Nos institutions, règles et cadres réglementaires nationaux et internationaux actuels ne sont conçus pour ne faire face à aucun de ces nouveaux défis. Comme le cyberespace ne connaît aucune frontière naturelle, les effets de la transformation numérique ne peuvent pas être confinés hermétiquement à l'intérieur de nos frontières nationales. La coordination internationale est cruciale.
    Compte tenu de ces observations, voici les six recommandations que je soumets à votre examen:
    Un: éliminer le droit aux déductions fiscales pour certaines catégories d'annonces en ligne.
    Deux: interdire la publicité électorale personnalisée en ligne.
    Trois: mettre en œuvre une réglementation rigoureuse de la gouvernance des données pour les partis politiques.
    Quatre: offrir des mesures de protection efficaces aux dénonciateurs.
    Cinq: ajouter une responsabilité personnelle explicite à celle des entreprises afin d'influer sur le processus décisionnel des PDG et des administrateurs.
    Six: créer une nouvelle institution où les pays aux vues similaires pourront travailler sur la coopération et la stabilité numériques.
    La technologie perturbe la gouvernance; si on ne la contrôle pas, elle pourrait entraîner l'obsolescence de la démocratie libérale. En supplantant la presse écrite et parlée auprès de l'opinion publique, la technologie est en trait de devenir le nouveau quatrième pouvoir. Dans notre système de freins et contrepoids, la technologie est ainsi mise sur un pied d'égalité avec l'exécutif, le législatif et le judiciaire.
    Quand ce quatrième pouvoir refuse de comparaître devant notre comité, comme c'est le cas des cadres de Silicone Valley, il affirme symboliquement ce statut d'égalité auquel il aspire. Toutefois, il affirme ce statut et réclame ses privilèges sans les traditions, la discipline, la légitimité, ni la transparence qui faisaient contrepoids au quatrième pouvoir conventionnel.

  (0835)  

    Le travail du Grand Comité international est un premier pas essentiel vers le redressement de la situation intenable dans laquelle nous nous trouvons. Comme l'a déclaré Mme Zuboff hier soir, nous, les Canadiens, menons actuellement une bataille historique pour l'avenir de notre démocratie contre une mascarade appelée Sidewalk Toronto.
    Je suis là pour vous dire que nous remporterons cette bataille.
    Merci.
    Je vous remercie, monsieur Balsillie.
    Pour la prochaine période de cinq minutes, nous allons passer à M. McNamee.
    Messieurs les coprésidents, mesdames et messieurs, je vous remercie de me donner la possibilité de m'adresser à vous aujourd'hui. Ma déclaration fera fond sur les exposés présentés hier soir par Mmes Zuboff et Tworek et M. Ben Scott et aujourd'hui par M. Balsillie.
    Pendant mes 35 années à titre d'investisseur, j'ai partagé l'engagement de Silicon Valley envers la création de technologies qui augmentent l'autonomie des personnes qui les utilisent. Dès 2004, toutefois, j'ai remarqué une transformation dans la culture de Silicon Valley, et, au cours d'une décennie, les modèles axés sur la clientèle ont été remplacés par la poursuite inlassable d'un monopole mondial et de richesses colossales.
    Comme vous l'a dit Mme Zuboff, Google a été la première société à voir l'occasion économique de convertir toute l'expérience humaine en données. Elle veut rendre le monde plus efficient. Elle veut éliminer le stress des utilisateurs qui découle de choix trop nombreux. Google savait que la société ne permettrait pas l'établissement d'un modèle d'entreprise fondé sur le fait d'éliminer le libre arbitre et d'empêcher les consommateurs de faire des choix, alors elle a dissimulé ses traces. À partir d'environ 2012, Facebook a adopté une stratégie semblable; elle a été suivie plus tard par Amazon, Microsoft et d'autres.
    Pour Google et Facebook, c'est une affaire de prédiction comportementale. Ces sociétés créent un avatar de données à haute résolution de chaque consommateur, une poupée vaudou, si on veut. Elles recueillent une infime quantité de données provenant des publications et des recherches des utilisateurs, mais la grande majorité de leurs données proviennent de la surveillance: le suivi des activités sur le Web, le balayage des courriels et des documents, les données des applications et des tiers et la surveillance ambiante au moyen de produits comme Alexa, Google Assistant, Sidewalk Labs et Pokémon GO.
    Google et Facebook utilisent des poupées vaudou de données pour fournir à leurs clients, qui sont des spécialistes du marketing, des renseignements parfaits au sujet de tous les consommateurs. Ces sociétés utilisent les mêmes données pour manipuler les choix des consommateurs. Tout comme en Chine, la manipulation comportementale est le but.
    Les algorithmes de Google et de Facebook sont réglés de manière à garder les utilisateurs sur le site et actifs. De préférence, ils appuient sur des boutons émotionnels qui révèlent leur véritable nature. Pour la plupart des utilisateurs, cela signifie du contenu qui provoque de la peur ou de l'indignation. Le discours haineux, la désinformation et les théories du complot sont un véritable stimulant pour ces algorithmes. Ces plateformes sont conçues pour que tout le contenu soit traité exactement de la même manière, qu'il s'agisse de nouvelles chaudes provenant d'un site fiable, d'un avertissement au sujet d'une situation d'urgence ou d'une théorie du complot. Les plateformes ne portent aucun jugement: les utilisateurs choisissent, aidés par des algorithmes qui renforcent un comportement passé. Le résultat: 2,5 milliards de personnes ont leur propre Truman Show sur Facebook, chacun avec son monde unique et ses propres faits.
    Aux États-Unis, près de 40 % de la population croit à au moins une chose qui est manifestement fausse. Cette situation mine la démocratie. Les gens de Google et de Facebook ne sont pas méchants. Ils sont les produits d'une culture d'entreprise américaine où les règles sont peu nombreuses et où l'inconduite se solde rarement par une punition. Les personnes intelligentes prennent ce qu'elles peuvent obtenir et se disent qu'elles l'ont gagné. Elles ont l'impression que c'est leur droit. Les conséquences sont le problème de quelqu'un d'autre.
    Contrairement aux entreprises industrielles, les plateformes Internet sont hautement adaptables, et c'est ce qui est problématique. Si on leur enlève une possibilité, elles passent à la prochaine, montent d'un niveau et se débarrassent de l'intermédiaire. Aujourd'hui, elles appliquent la prédiction comportementale à la publicité, mais elles ont déjà jeté leur dévolu sur les transports et les services financiers.
    Je ne cherche pas à faire valoir qu'il ne faut pas miner leurs activités publicitaires; je veux plutôt vous avertir de la possibilité que ce soit une victoire à la Pyrrhus. Si vos objectifs sont la protection de la démocratie et de la liberté personnelle, vous devez être téméraires. Vous devez forcer une transformation radicale du modèle d'entreprise des plateformes Internet. Cela signifie qu'il faut au moins interdire le suivi des activités sur le Web, le balayage des courriels et des documents, l'utilisation des données de tiers et des renseignements sur les transactions commerciales et la surveillance ambiante. Le fait de taxer la publicité très ciblée afin de la rendre peu attrayante, d'un point de vue économique, est une autre option.
    Vous devez également créer un espace pour d'autres modèles d'entreprise, à l'aide d'une loi antitrust. Le démarrage d'entreprises peut avoir lieu n'importe où. Elles peuvent provenir de chacun de vos pays.

  (0840)  

    Au bout du compte, toutefois, la voie la plus efficace vers la réforme serait l'arrêt des plateformes, du moins temporairement, comme l'a fait le Sri Lanka. Tout pays peut commencer. Les plateformes ne vous ont laissé aucun choix. Le temps est venu de les forcer à abattre leurs cartes. Des entreprises ayant adopté un modèle d'entreprise responsable arriveront du jour au lendemain pour combler le vide.
    Merci beaucoup.

  (0845)  

    Je vous remercie, monsieur McNamee.
    Nous allons passer ensuite à Mme Zuboff.
    Je vous remercie, messieurs les coprésidents. Je suis très heureuse de comparaître aujourd'hui.
    Comme vous le savez, mon port d'attache est l'École d'études commerciales d'Harvard, où je suis professeure émérite. Fait plus important, je suis l'auteure du livre que voici, sur le capitalisme de surveillance. Je le précise parce que je veux que vous sachiez que toute déclaration que je ferai et toute conclusion que je tirerai aujourd'hui sont amplement appuyées par l'information et l'analyse contenues dans cet ouvrage. Je pourrais ajouter que mon travail de recherche sur l'avenir numérique a commencé en 1978. Je vais vous laisser faire le calcul à cet égard.
    Ma déclaration de ce matin englobera certains points saillants d'une déclaration écrite plus longue que j'ai soumise au Comité. J'ajoute aux fins du compte rendu que je suis profondément engagée à prendre part au travail de ce groupe très important. Je m'engage notamment à continuer à appuyer votre travail de toutes les manières possibles, de façon officieuse ou à l'occasion de séances ultérieures, au moment où nous nous attaquons à ce défi mondial historique.
    Internet est maintenant un moyen essentiel de participation sociale, et ce sont des intérêts de surveillance privés qui le possèdent et l'exploitent. On ne pourra pas répondre aux questions de droit et de réglementation que le Comité cherche à étudier sans comprendre clairement le capitalisme de surveillance en tant que nouvelle logique économique définie par des impératifs économiques distincts qui forcent l'adoption de pratiques précises. Je ne veux pas répéter tout ce dont j'ai parlé hier soir. M. McNamee a abordé certains des enjeux clés, tout comme M. Balsillie, alors je passerai directement à l'idée des impératifs économiques.
    Ce que nous observons dans le capitalisme de surveillance, c'est que des sociétés s'approprient de façon unilatérale l'expérience humaine privée et la transforment en données comportementales, lesquelles servent ensuite à fabriquer des produits de prédiction qui sont vendus sur un nouveau genre de marché où le seul produit échangé est l'avenir d'êtres humains. Si nous déconstruisons la dynamique concurrentielle de ces marchés, nous pouvons comprendre quels sont les nouveaux impératifs. Tout d'abord, c'est l'échelle. On a besoin de beaucoup de données pour faire de bonnes prédictions et réaliser des économies d'échelle. Ensuite, c'est la portée. On a besoin de données diversifiées pour faire de bonnes prédictions. Enfin, à la dernière étape de cette lutte concurrentielle, on a découvert que les données les plus prédictives proviennent d'interventions dans le comportement humain, dans l'état du jeu, lesquelles permettent d'établir des prédictions qui ressemblent de plus en plus à des observations, de sorte qu'on puisse garantir les résultats à ses clients commerciaux. Voilà comment on gagne sur les marchés de l'avenir d'êtres humains.
    Je vais vous communiquer une brève citation d'un scientifique des données qui résonne à l'oreille de toutes les personnes qui l'entendent. Il m'a dit: « Nous pouvons mettre au point le contexte entourant un comportement particulier et ainsi forcer le changement... Nous apprenons comment écrire la musique, puis nous laissons la musique les faire danser. »
    Chers amis, il s'agit d'une modification comportementale, institutionnalisée systématiquement à l'échelle mondiale, induite par une infrastructure numérique maintenant omniprésente. Elle a commencé en ligne. Elle s'est propagée dans le monde réel, sur nos téléphones et nos téléphones cellulaires et, au bout du compte, nous vivons maintenant dans un monde d'appareils qui permet à ce phénomène d'être amplifié et perpétué. Cette architecture numérique s'accroît tous les jours. Je l'appelle le « big other », le grand autre. On a atteint ce nouveau niveau d'intensité concurrentielle où le fait d'automatiser les flux d'information à notre sujet n'est plus suffisant. Le but est maintenant de nous automatiser, non seulement comme personnes ou petits groupes, mais de plus en plus également comme populations. Le but est que l'analyse informatique du capitalisme de surveillance qui favorise ses propres résultats commerciaux remplace la démocratie et la gouvernance telles que nous les connaissons.
    De fait, en ce moment même, dans la ville de Toronto, l'entreprise Sidewalk Labs, qui appartient à Alphabet, fait valoir ses propres nouveaux euphémismes, en parlant d'« innovation en matière de gouvernance ». Il s'agit d'un code orwellien pour la déconstruction de la démocratie locale en faveur du règne informatique de Sidewalk, soit, en dernière analyse, une réincarnation d'un genre de tyrannie absolutiste que nous pensions avoir laissée derrière nous au XVIIIe siècle, mais qui est maintenant servie avec un cappuccino et enrobée de uns et de zéros.

  (0850)  

    Le capitalisme de surveillance attaque la démocratie par en dessous et par-dessus. Par en dessous, il s'agit d'une attaque directe à l'autonomie humaine et au pouvoir essentiel à la possibilité d'une société démocratique. Par-dessus, cette approche est marquée par des asymétries sur le plan des connaissances et par un pouvoir comme on n'en a jamais vu dans l'histoire de l'humanité.
    Je veux passer à la question de ce qui doit être fait, parce qu'il s'agit en réalité de ce dont nous n'avons pas eu le temps de discuter beaucoup hier soir, et faire fond sur les très excellentes recommandations formulées par M. Balsillie, que j'approuve toutes.
    Comme nous le savons tous, le capitalisme de surveillance prospère en l'absence de lois. Je considère cela comme un signe positif, car cela signifie que nous n'avons pas échoué à maîtriser cette mutation indésirable du capitalisme. Le vrai problème tient au fait que nous n'avons pas vraiment essayé. La bonne nouvelle, c'est que nos sociétés ont de l'expérience pour ce qui est de maîtriser les excès bruts d'un capitalisme destructif. Nous l'avons fait pour mettre fin à la Gilded Age. Nous l'avons fait pour atténuer la Grande Dépression. Nous l'avons fait à l'époque de l'après-guerre, de même que dans les années 1970 afin de sauver les animaux, l'air, l'eau, les travailleurs et les consommateurs. Nous savons comment faire. C'est à cela que sert la démocratie. Le temps est venu de prendre à nouveau ces mesures.
    Le grand historien de l'entreprise Tom McCraw a rédigé un excellent historique de la réglementation au XIXe et au XXe siècle. Il a recensé plusieurs étapes de régimes réglementaires à compter de la fin du XIXe siècle, avec les remueurs de boue, jusqu'au début du XXe siècle, avec les progressistes. Plus tard, lors de la Nouvelle Donne et au début des années 1970, les cadres réglementaires étaient établis par des esprits juridiques, par des juristes et par des experts juridiques. Enfin, à partir de la fin des années 1970, dans les années 1980 et jusqu'à aujourd'hui, ce sont les économistes qui ont régné.
    Toutefois, la dynamique est changeante, et ce qu'il souligne, c'est qu'au bout du compte, quand on regarde cette période de plus d'un siècle du point de vue des cadres réglementaires et des problèmes connexes, on remarque que l'accent est mis sur l'équité et la justice plutôt que sur des considérations étroites de croissance économique. M. McCraw pose la question suivante: l'heure des économistes ne durera pas; qu'est-ce qui viendra ensuite?
    Je veux vous dire ce qui viendra ensuite. La prochaine grande vision réglementaire sera formulée et mise en oeuvre par vous et par nous. Ce seront des représentants élus, des citoyens et des spécialistes, réunis par la reconnaissance du fait que, malgré ses échecs et ses lacunes, la démocratie est l'unique idée à ressortir de la longue histoire de l'humanité qui consacre le droit du peuple à l'autonomie gouvernementale et qui soutient l'idéal de l'individu souverain, et c'est le rempart le plus puissant contre la tyrannie. Nous abandonnons ces idées à nos risques et périls, mais seule la démocratie peut imposer l'intérêt des gens par des lois et des règlements.
    M. McCraw lance aussi un avertissement concernant le fait que les organismes de réglementation ont échoué quand ils n'ont pas conçu adéquatement des stratégies adaptées aux industries particulières qu'ils réglementaient. La question est la suivante: Quel genre de lois et de règlements seront aujourd'hui les solutions du XXIe siècle ciblant les complexités du capitalisme de surveillance?
    Il existe trois secteurs où les stratégies législatives et réglementaires peuvent s'aligner efficacement pour s'attaquer à la structure et aux conséquences du capitalisme de surveillance.
    Brièvement, premièrement, nous avons besoin que les législateurs conçoivent des stratégies qui interrompent et, dans bien des cas, rendent illégaux les mécanismes fondamentaux du capitalisme de surveillance. Il s'agit notamment de l'appropriation unilatérale de l'expérience humaine privée en tant que source gratuite de matières brutes et sa transformation en données. Ces mécanismes comprennent également les asymétries extrêmes sur le plan de l'information qui sont nécessaires pour prédire le comportement humain. Ils comprennent également la fabrication de produits de prédiction informatique fondés sur la consignation unilatérale et secrète de l'expérience humaine, ainsi que l'exploitation de marchés de prédiction où les échanges concernent l'avenir d'êtres humains.

  (0855)  

    Deuxièmement, du point de vue de l'offre et de la demande, le capitalisme de surveillance peut être interprété comme un échec du marché. Tous les projets de recherche menés au cours des dernières décennies ont montré que, lorsque les utilisateurs sont informés des activités du capitalisme de surveillance qui se déroulent en coulisse, ils refusent de participer. Ils veulent être protégés. Ils rejettent cette surveillance. Ils veulent des solutions de rechange.
    Il nous faut des lois et des cadres réglementaires conçus pour favoriser les entreprises qui veulent rompre avec le paradigme du capitalisme de surveillance. Pour modifier la trajectoire future des technologies numériques, il faudra des alliances de nouveaux concurrents qui pourront créer et institutionnaliser un autre écosystème. De véritables concurrents qui s'alignent sur les besoins réels des gens et sur les normes de la démocratie de marché sont susceptibles de compter à peu près toutes les personnes sur Terre au sein de leur clientèle.
    Troisièmement, les législateurs devront appuyer de nouvelles formes d'action citoyenne — d'action collective —, tout comme dans le cas des travailleurs qui, il y a près d'un siècle, ont réussi à faire protéger par la loi leurs droits d'organisation, de négociation et de grève. De nouvelles formes de solidarité citoyenne apparaissent déjà dans des municipalités où les gens cherchent une solution de rechange à l'avenir de villes intelligentes appartenant à Google ou bien dans des collectivités où on veut résister aux coûts sociaux liés à la soi-disant « perturbation » imposée au profit d'intérêts externes. Des travailleurs qui souhaitent obtenir un salaire équitable et une sécurité raisonnable dans les conditions précaires de ce qu'on appelle l'économie à la demande s'organisent également.
    Les citoyens ont besoin de votre aide, mais vous avez besoin des citoyens, car, au bout du compte, ils seront le vent dans vos ailes. Ils incarneront le changement radical dans l'opinion publique et la sensibilisation du public qui soutiendra vos initiatives politiques. Si, ensemble, nous visons le changement de la trajectoire future des technologies numériques pour les ramener à l'objectif initial d'émancipation, nous ferons renaître la possibilité que l'avenir puisse être un endroit où nous pourrons tous nous sentir chez nous.
    Merci.
    Madame Zuboff, je vous remercie de ce témoignage.
    Nous allons ensuite passer à Mme Ressa, pour 10 minutes.
    Messieurs les coprésidents, je porte encore les mêmes vêtements. Bonsoir de Manille.
    Comme je l'ai dit tôt ce matin chez nous — hier soir chez vous —, aux Philippines, nous avons une mise en garde à vous faire, un exemple à vous donner de la rapidité avec laquelle la démocratie s'effondre et s'effrite de l'intérieur et de comment ces activités d'information peuvent prendre le contrôle de l'écosystème entier et transformer des mensonges en faits. Si vous arrivez à faire croire aux gens que des mensonges sont des faits, vous pouvez les contrôler. Sans faits, il n'y a pas de vérité. Sans vérité, il n'y a pas de confiance.
    Depuis longtemps, les journalistes sont les gardiens des faits. Quand on nous attaque, c'est la démocratie qui est attaquée. Lorsque cette situation se produit, c'est la voix qui possède le mégaphone le plus bruyant qui gagne.
    Les Philippines sont une boîte de Pétri pour les médias sociaux. En janvier 2019, comme l'a mentionné We Are Social and Hootsuite, à l'échelle mondiale, les Philippins sont ceux qui ont passé le plus de temps en ligne et le plus de temps sur les médias sociaux.
    Facebook est notre Internet, mais, comme je vous le montrerai à l'aide de certaines des données — elles devraient vous être distribuées —, c'est une question d'introduire un virus dans notre écosystème d'information. Au fil du temps, ce virus ment et fait croire qu'il diffuse des faits. Il se propage dans le corps politique, et il faut élaborer un vaccin. Voilà ce que nous cherchons, et je pense que nous voyons une solution.
    Je suis journaliste depuis plus de 30 ans. Mon livre, qui a été publié en 2011 et qui s'intitule From Bin Laden to Facebook, étudiait la façon dont cette transformation, cette idéologie virulente du terrorisme, est passée du monde physique au monde virtuel et comment le groupe lié à Al-Qaïda — Abu Sayyaf — aux Philippines a utilisé YouTube, en 2011, pour tenter de négocier des rançons en échange des personnes qu'il avait kidnappées.
    J'ai d'abord commencé à étudier les réseaux sociaux dans le cadre de cette propagation de l'idéologie virulente. Pendant la rédaction du livre, je suis tombée sur la stratégie à l'origine de Rappler, l'entreprise que nous avons créée en 2012. À l'aide des médias sociaux et du journalisme — nous les avons adoptés; j'ai bu le philtre —, nous avons établi des communautés d'action dans un pays où les institutions sont faibles et la corruption, endémique. Si les réseaux sociaux sont votre famille et vos amis dans le monde physique, les médias sociaux sont votre famille et vos amis qui prennent des stéroïdes; il n'y a aucune limite de temps et d'espace.
    La compréhension des cascades d'information était essentielle à la croissance de Rappler. Nous étions des partenaires importants de Facebook. Nous croyions en notre approche et générions du vrai contenu destiné aux médias sociaux pour favoriser le changement social; nous avons connu une croissance de l'ordre de 100 % à 300 % d'année en année à partir du moment de notre fondation, de 2012 à 2015. Ensuite, comme dans le reste du monde, l'an 2016 est arrivé. En mai de cette année-là, le président Duterte a été élu. Un mois plus tard, il y a eu le Brexit, et ainsi de suite. Cette année-là a été un point de bascule pour les activités d'information dans notre système.
    Aux Philippines, la transformation des médias sociaux en arme a commencé en juillet 2016, après la victoire du président Duterte. Cela concorde avec le début de notre guerre brutale contre la drogue, et ce n'est pas une coïncidence. Dans le cadre d'une étude mondiale menée avec 12 autres groupes de recherche, nous avons contribué à définir l'activité des trolls patriotiques: une haine cautionnée par l'État en ligne, conçue pour vous réduire au silence, pour inciter à la haine contre la cible et pour étouffer la dissension ou la critique. Les journalistes et les groupes de nouvelles ont été l'une des premières cibles d'attaque.
    Je vais vous montrer rapidement un exemple typique de désinformation populaire planifiée dans le cadre d'une attaque en trois volets contre une cible aux Philippines.
    La première étape consiste à diffuser des allégations de corruption. Il n'est pas nécessaire que ce soit vrai. Il faut simplement l'alléguer. Si on le fait de façon exponentielle, ces allégations deviennent la vérité. Un mensonge raconté un million de fois est une vérité. La deuxième étape, pour une femme... si on est une femme, on se fait attaquer sexuellement. La troisième étape consiste à jeter les bases de ce qu'on veut qui se produise, quelle que soit la politique en question.
    Dans ce cas-ci, la machine à propagande a tenté de lancer une tendance — si vous pouvez faire un zoom sur ce que je vous montre; j'espère que vous le verrez —, soit le mot-clic #ArrestMariaRessa. À partir de là, c'est passé du créateur gouvernemental — le blogueur — à un compte Twitter qui avait été utilisé durant la campagne, alors ce qui avait été utilisé en campagne est ensuite devenu une arme. En talagog, le message dit: [Le témoin s'exprime en talagog], c'est-à-dire « Amenez-la au Sénat#ArrêterMariaRessa. » Ensuite, on passe à: « Ça sent l'arrestation et la fermeture possible de Rappler.com ». Enfin, on passe aux attaques sexuelles: « Peut-être que Maria Ressa rêve de devenir l'ultime actrice porno dans une scène de gang bang »... ce n'est pas le cas.

  (0900)  

    Puis, il y a — et cela vient d'une personne qui vient tout juste de terminer ses études collégiales — « Je m'adresse au gouvernement de la République des Philippines, veillez à ce que Maria Ressa soit violée publiquement jusqu'à ce que mort s'ensuive lorsque la loi martiale sera appliquée à Luçon. Cela m'apporterait la plus grande joie. » #ArrestMariaRessa était une tentative de popularisation, de faire de la désinformation populaire planifiée. C'était en mai 2015. Ma première arrestation a eu lieu en février 2019.
    Lorsque j'ai été arrêtée... la méthode est beaucoup trop familière. Il y a de la désinformation populaire planifiée sur les réseaux sociaux, puis, ces informations erronées sont reprises par les médias traditionnels, qui les répètent et les martèlent. L'attaque contre moi et Rappler a été lancée par le président Duterte lui-même dans son discours à la nation en juillet 2017.
    En 2016, les réseaux sociaux ont commencé à jeter les bases des actions en justice intentées contre nous. À partir de janvier 2018, le gouvernement a intenté 11 actions et enquêtes contre moi et Rappler sur une période de 14 mois — environ une action par mois. En trois mois à peu près, j'ai payé des cautions à huit reprises. En cinq semaines, j'ai été arrêtée deux fois et détenue une fois. Mon seul crime est d'être journaliste, de dire la vérité aux autorités et de défendre la liberté de presse qui est garantie par notre constitution.
    Laissez-moi vous montrer ce qui est arrivé.
    Il s'agit d'une base de données que nous avons commencé à monter comme défense. Puisque nous passions nos journées sur les réseaux sociaux, nous étions en mesure de cerner les attaques dès le début. Nous avons découvert un réseau de désinformation populaire planifiée qui comptait 26 faux comptes. En tant que journalistes, nous avons fait preuve de diligence raisonnable et nous sommes assurés qu'il s'agissait bien de faux comptes, puis nous les avons comptés manuellement. Combien de comptes pourraient-ils arriver à rejoindre? Au total, 26 faux comptes permettraient d'en rejoindre jusqu'à 3 millions.
    C'est à partir de cela que nous avons mis sur pied la base de données. Cela s'est fait au fil du temps, entre janvier 2015 et avril 2017. Vous pouvez voir que la même chose s'est essentiellement produite dans l'Ouest. Il y a une rupture de la ligne de société, puis, après que la lutte aux stupéfiants a commencé, l'information a été martelée littéralement un million de fois, avant de devenir un fait. Puis, la ligne devient continue.
    Par après, bayaran — cela se traduit par corrompre — a été martelé si souvent que 1,7 million de commentaires ont été générés sur une période de un mois.
    J'aimerais vous montrer la base de données et l'expérience d'utilisateur brute que nous avons bâties pour notre équipe responsable des médias sociaux, puisque cela vous montre comment l'écosystème de l'information est interrelié. Ici, vous avez les URL qui sont contrôlés par Google ou YouTube ou qui peuvent l'être. Au milieu, vous pouvez voir les pages Facebook qui ont essentiellement partagé cet URL. Puis, vous pouvez voir le nombre moyen de fois où il a été partagé.
    Ce que nous avons fait pour notre équipe — afin qu'elle puisse différencier les opérations d'information des vraies personnes —, c'était de leur montrer, après que nous avons publié la série de propagandes en octobre 2016... Le rouge signifie que cela a été repartagé plus de 10 fois. Nous avons fait un gros plan sur un compte, et vous pouvez voir que le même message a en fait été partagé à maintes reprises, non seulement sur des sites Internet mais également sur des pages Facebook qui ont été utilisées dans la campagne du président Duterte et également dans celle du candidat à la vice-présidence Bongbong Marcos.
    Alors, que devons-nous faire? Voici la dernière chose que je veux vous montrer. Il s'agit de données — elles ne vous montrent pas grand-chose lorsque vous les regardez de cette façon. Il s'agit simplement d'une liste de pages Facebook, puis du degré pondéré — le degré entrant, le degré sortant, puis un degré pondéré. Cependant, lorsque vous réunissez le tout, vous pouvez alors voir le réseau. Il s'agit du réseau social qui était derrière l'attaque contre notre vice-président, Leni Robredo, en 2017. Je crois que c'est parce que ces mêmes... C'était très bien organisé et c'était soutenu. Nous avons vécu cela pendant environ trois ans. Les éditeurs de contenu sont répartis en fonction de la démographie. Ce compte — c'est là où l'attaque a commencé — se charge des pseudo-intellectuels, la présumée classe des penseurs.

  (0905)  

    Ensuite, il y a des éditeurs de contenu pour la classe moyenne dans ce compte, et un compte qui vise les masses. À partir de là, on passe aux médias traditionnels, mais ce qui est visé, ce sont les journaux, et, essentiellement, le président émérite est en charge des relations publiques internationales du président Duterte. Par la suite, cela se connecte aux médias de l'État, puis vous fermez le lien de ce groupe en entier.
    Soit dit en passant, à ce moment-là, en 2017, les Philippines et la Russie ont signé un partenariat, et nous avions des employés chargés des médias de l'État dans les bureaux de Spoutnik.
    Finalement, vous prenez ce compte qui vise les masses et l'affectez aux principaux médias sociaux du palais présidentiel. Il s'agit d'un écosystème incroyable.
    Où est-ce que cela s'en va et qu'est-ce que nous pouvons faire pour y remédier? À long terme, il faut éduquer les gens. Vous avez entendu des trois autres témoins avant moi exactement le genre de choses qui peuvent être faites. À moyen terme, il y a l'éducation sur les médias, mais à court terme, franchement, seules les plateformes de médias sociaux peuvent faire quelque chose dans l'immédiat. Nous sommes en première ligne. Nous avons besoin d'aide et de solutions immédiatement.
    Rappler est l'un des trois partenaires de vérification des faits de Facebook aux Philippines, et nous prenons cette responsabilité très au sérieux. Nous n'examinons pas seulement le contenu. Lorsque nous nous assurons que quelque chose est faux, nous examinons les réseaux qui partagent la fausse information. La première étape, c'est d'empêcher un nouveau virus d'entrer dans l'écosystème. Il s'agit d'un jeu de taupe si vous n'examinez que le contenu, mais lorsque vous commencez à vous pencher sur les réseaux qui le partagent, alors vous pouvez en retirer quelque chose.
    Madame Ressa, pourriez-vous conclure votre témoignage? Nous sommes à 12 minutes. J'aimerais passer aux questions.

  (0910)  

    Bien sûr.
    Pour conclure, je ne sais pas... à moins que vous n'ayez été la cible d'une attaque... Il est très difficile d'examiner 90 messages haineux par heure, et ce, pendant des jours et des mois. Voilà ce que nous vivons: de la désinformation populaire organisée qui change les mensonges en vérité. Pour nous, c'est une question de survie.
    Je suis désolé de vous interrompre. Votre témoignage est poignant, et nous avons suivi votre histoire à distance.
    Nous allons passer aux questions.
    Je dois vous avertir que nous n'aurons de temps que pour une question par délégation pour cette série de questions. Au prochain tour, nous aurons assez de temps pour tout le monde.
    Nous allons commencer avec Damian Collins, puis ce sera le tour de Nathaniel Erskine-Smith, de Peter Kent et de M. Angus. Nous passerons ensuite à la délégation. Cela devrait vous donner cinq minutes chacun. Encore une fois, ce sera un peu juste. Je vais tenter de respecter la limite de cinq minutes du mieux que je peux.
    Nous allons commencer avec M. Collins.
    Vous avez la parole.
    Merci, monsieur le président.
    Il s'agit bien de cinq minutes par délégation?
    Le président: Oui, c'est exact.
    M. Damian Collins: J'ai deux brèves questions et, j'espère que mes collègues seront en mesure d'intervenir.
    Monsieur McNamee, dans votre livre, vous dites: « Pour autant que je sache, Zuck a toujours cru que les utilisateurs valorisent la vie privée plus qu'ils ne le devraient. » Dans ce contexte, estimez-vous que nous allons devoir établir dans la loi les normes qui doivent être respectées en matière de droits des utilisateurs et de protection des données et mettre en place des organismes de réglementation indépendants pour les surveiller? Les entreprises ne le feront pas de façon efficace par elles-mêmes. Elles ne partagent pas les mêmes inquiétudes que nous par rapport à la mauvaise utilisation du système.
    Oui, j'estime que c'est juste du point de vue de leur philosophie, mais, comme Mme Zuboff l'a souligné, c'est intégré dans leur modèle de gestion. Le fait est que les entreprises réclameront toutes les données qui existent en ce monde, qu'elles soient réclamées ou non, pour leur propre utilisation économique.
    Encore une fois, établir un cadre quant à la façon de procéder en matière de protection de la vie privée est extrêmement difficile et, à mon avis, on pourrait mieux y parvenir en interdisant simplement les comportements qui sont utilisés pour recueillir des données.
    Il s'agit de ma dernière question.
    Vous dites également dans votre livre que les problèmes liés à l'ingérence électorale auraient commencés à l'époque où certains outils de publicité, comme les auditoires semblables au public cible, ont été lancés sur la plateforme. Je serais curieux de savoir si vous avez quelque chose d'autre à dire à ce sujet.
    De plus, estimez-vous que certains de ces outils de ciblage — comme Mme Zuboff l'a également affirmé — devraient être bannis de la publicité numérique? Peut-être qu'il ne faudrait pas pouvoir utiliser un auditoire semblable au public cible. En fait, au Royaume-Uni, le commissaire à l'information a déjà remis en question leur légitimité en vertu du Règlement général sur la protection des données (RGPD).
    Essentiellement, le problème, c'est l'inversion de la politique, qui passe du fait de défendre un ensemble de politiques et de convaincre des gens de vous appuyer à cet égard à une élection où le nombre de campagnes est égal au nombre d'électeurs et où il est possible d'utiliser le microciblage pour amener ces campagnes à un échelon individuel.
    Aux États-Unis, cette technique a été utilisée pour empêcher les électeurs de voter. Je ne peux pas vous dire exactement comment cela s'est fait pour le Brexit, mais il est certain que cela a eu un effet considérable.
    L'essentiel, c'est de savoir s'il est possible d'avoir une démocratie saine au sein d'un environnement où la publicité n'a aucun compte à rendre, puisque les seules personnes qui la voient sont les destinataires visés.
    Merci.
    Je vais céder le reste de mon temps.
    Il reste deux minutes et demie.
    J'étais très intéressé, monsieur Balsillie, par ce que vous avez dit à propos de la création d'une structure qui tiendrait les plateformes responsables.
    Estimez-vous que la création d'une responsabilité pour les plateformes, ce qui encouragerait les citoyens à prendre des mesures pour des dommages causés, comme le droit de la responsabilité civile délictuelle, serait une façon de rendre ces plateformes responsables?
    Si je peux vous garantir une chose, c'est que, lorsqu'un conseil d'administration ou un PDG doivent signer une attestation qui les rend personnellement responsables, qu'il s'agisse d'une responsabilité civile ou criminelle, cela les fait réfléchir et les amène à se conduire de façon prudente et conservatrice. Si vous introduisez ce délit civil ou criminel et qu'ils doivent signer une attestation — et si les citoyens ont la possibilité d'être indemnisés pour cela —, je vous assure, d'après mon expérience, que cela amène les membres des conseils d'administration et des entreprises de technologie à se recentrer.
    J'ai soulevé le concept de délit civil parce que, la semaine dernière, une membre d'un organisme de réglementation de la radiodiffusion nous a dit, qu'elle ne considère pas réellement qu'un organisme de réglementation peut à lui seul avoir la flexibilité ou les ressources nécessaires pour faire face à l'ampleur du problème.
    Je me demande si le fait d'individualiser la responsabilité par la mise en place d'une responsabilité pour les plateformes encouragerait les citoyens à prendre les mesures nécessaires.

  (0915)  

    Je crois que, si vous créez une responsabilité, que ce soit par l'entremise d'un recours collectif, d'un particulier ou d'organismes de réglementation... Je vous assure que, s'il s'agit d'entreprises, c'est une responsabilité, mais si c'est personnel et que cela permet de...
    Par ailleurs, c'est que c'est une chose qu'un PDG soit tenu responsable. Si vous êtes membre d'un conseil et que vous dites: « Les frais de mon conseil ne me permettent pas d'être coincé de cette façon », voilà qui change le comportement. Si vous introduisez la responsabilité et changez les choses à partir de là — la façon de permettre à une personne de présenter une demande devant les tribunaux et ce genre de chose dépend de chaque administration— , voilà qui change les approches décisionnelles.
    Selon vous, qu'est-ce qui fait le plus peur à Mark Zuckerberg, la réglementation sur la protection des renseignements personnels ou les lois antitrust?
    Il craint davantage la protection des renseignements personnels.
    À M. Lucas, je dirais seulement que la partie la plus difficile, c'est d'établir la norme de ce qui constitue un préjudice. Ces personnes se cachent derrière le fait qu'il est très difficile de quantifier nombre de ces aspects.
    Merci, madame Stevens.
    Nous allons maintenant passer à M. Erskine-Smith pour cinq minutes.
     Comme M. Picard a un exemplaire de The Age of Surveillance Capitalism avec plusieurs feuillets auto-adhésifs et passages surlignés, je vais lui laisser mes cinq minutes.
    Mes questions s'adressent d'abord à Mme Zuboff.
    Vous nous avez parlé d'une personne qui écrit de la musique pour que nous dansions, alors allons-y.
    Votre question au début était de savoir si l'avenir pourrait être numérique. Ma réponse à cela, c'est que la question est plutôt de savoir si nous pouvons avoir un avenir sans le numérique.
    C'est une importante distinction à faire parce que je ne crois pas qu'il y a qui que ce soit ici dans la salle qui est contre le numérique en soi. Il ne s'agit pas de s'opposer à la technologie. Il est question de technologie qui est piratée par une logique économique sans scrupules qui l'utilise à ses propres fins.
    Nous avons un peu parlé hier soir du fait que combiner le numérique au capitalisme de surveillance est une grave erreur. Nous devons être en mesure de libérer le potentiel du numérique afin de nous réapproprier les valeurs de la démocratisation du savoir et de l'émancipation et de l'autonomisation individuelles qu'il devait faciliter et qu'il peut encore faciliter.
    C'est là où je croyais que nous allions en venir parce que, dans votre livre, vous comparez la période actuelle à la révolution industrielle. À cette époque, les gens craignaient la nouvelle technologie, mais cette dernière s'adressait aux travailleurs afin qu'ils puissent bénéficier des progrès. En ce moment, nous n'en bénéficions pas du tout. Comme vous le dites, c'est un coup des gens, non pas un coup d'État, alors il ne s'agit pas de la deuxième étape de cette révolution. C'est une situation où les gens deviennent les producteurs de la matière première et, comme vous l'avez écrit:
[...] l'invention de Google a révélé de nouvelles capacités de déduire les pensées, les sentiments, les intentions et les intérêts de particuliers et de groupes au moyen d'une architecture automatisée qui fonctionne comme un miroir d'observation indépendamment de la conscience de la personne [...]
    C'est comme les gens connectés à la machine dans La Matrice.
    Oui, cette métaphore est pleine de possibilités. C'est vrai.
    Depuis le tout début, les scientifiques des données chez Google, qui ont inventé le capitalisme de surveillance, se sont vantés dans leurs brevets et leurs recherches publiées de pouvoir recueillir plus de données sur les comportements sans jamais que les gens soient conscients de ces activités menées en coulisse. La surveillance a été inscrite dans l'ADN de cette logique économique et elle est essentielle à son étrange forme de création de la valeur; c'est donc avec sobriété et sérieux qu'on appelle cela le « capitalisme de surveillance » parce que, sans l'élément de surveillance, il ne peut pas exister.
    Je fais partie d'un monde où je ne peux pas vivre sans le numérique, bien sûr. J'ai deux téléphones seulement pour moi. Mon réfrigérateur peut maintenant me parler. Nous l'avons appris il y a quelques semaines. Le numérique est partout.
    Je dois maintenant réglementer tout cela. J'ai deux possibilités. D'abord, je vais citer M. Schmidt au Congrès mondial de la téléphonie mobile, et ce qu'il a répondu lorsqu'on lui a demandé de parler de la réglementation gouvernementale, c'est que la technologie évolue tellement vite que les gouvernements ne devraient pas vraiment essayer de la réglementer et que les problèmes seront réglés par la technologie. Il a dit: « Nous évoluons beaucoup plus rapidement que tout gouvernement. »
    J'aimerais avoir un commentaire de votre part, madame Zuboff, et ensuite de M. Balsillie.

  (0920)  

    Je suis très heureuse que vous souleviez la question parce qu'elle fait partie de l'idéologie implacable des capitalistes de surveillance. Ils essaient de faire fuir les législateurs. Ils tentent de dresser les législateurs contre les citoyens. Lorsqu'on entend « nous servons les citoyens », c'est exactement ce qui se passe à Toronto à l'heure actuelle: « Voulez-vous vraiment que le gouvernement supprime ces magnifiques immeubles en bois et ces beaux trottoirs que nous allons construire pour vous? »
    Voilà l'idéologie. Le fait est qu'ils revendiquent le droit à la liberté de la même façon qu'Adam Smith et Friedrich Hayek ont fait valoir que nous avions besoin de marchés libres et des acteurs qui y évoluent parce que le marché est ce mystère ineffable que personne ne peut gérer; la liberté est donc nécessaire.
    Les capitalistes de surveillance ont réclamé cette liberté, mais le marché n'est plus ineffable pour eux. Ils possèdent toute l'information. Ils savent tout ce qui se passe dans leurs marchés. Ils en savent trop pour pouvoir revendiquer la liberté. Il s'agit d'une idéologie fondamentalement perverse, et nous ne devons pas nous laisser intimider par elle.
    Il ne me reste que quelques secondes...
    Merci. Vous n'avez plus de temps, monsieur Picard.
    Nous allons passer à M. Kent pour les cinq prochaines minutes.
    Merci, monsieur le président, et merci à tous nos témoins d'être ici ce matin. Vos témoignages sont fort intéressants.
    Même si on semble s'entendre sur le fait que l'harmonisation de la législation, de la réglementation et des politiques dans les démocraties finira peut-être par contrer le capitalisme de surveillance, il ne semble pas que ce sera pour bientôt.
    Madame Zuboff, vous avez dit hier soir que la première ligne du capitalisme de surveillance est à Toronto, à Sidewalk Labs et dans le projet de ville intelligente.
    Monsieur Balsillie, vous avez affirmé que Sidewalk Labs est une expérience colonisatrice de capitalisme de surveillance et que l'entreprise continue de transformer l'ambiguïté en arme.
    Ma question s'adresse à vous deux; peut-être que Mme Zuboff peut répondre la première, suivie de M. Balsillie. La Ville de Toronto a-t-elle été écrasée ou embobinée par le tape-à-l'œil de Sidewalk Labs et la vision de M. Doctoroff qui émerge peu à peu?
    Je céderais bien sûr la parole à M. Balsillie parce qu'il est plus sur le terrain que moi, mais après avoir parlé avec les gens ici, y compris Bianca Wylie, qui est une citoyenne militante, et d'après mes lectures, je suis d'avis qu'il n'y a aucun doute. C'est ainsi que fonctionne Sidewalk Labs.
    L'entreprise va dans une ville et lui offre des choses que la ville ne peut pas se permettre et elle le fait en contrepartie de la suspension de la loi. Ses représentants disent: « Nous allons venir dans votre ville et vous fournir toutes sortes de choses, mais nous ne voulons pas devoir nous conformer aux politiques, alors vous devrez les éliminer si vous voulez notre argent. »
    C'est une façon directe pour l'entreprise de contourner la démocratie afin d'imposer sa vision, qui, au bout du compte, vise ses propres objectifs commerciaux précis.
    C'est essentiellement ce qu'a affirmé M. Schmidt il y a quelques années: donnez-nous une ville, et nous allons la gérer.
    L'histoire sera très indulgente pour les chefs de file, comme les personnes autour de la table, et très sévère avec ceux qui ont succombé à leurs propres insécurités et au tape-à-l'œil de ces gens. Vous pouvez bien sûr réglementer cela. Vous avez tout le pouvoir de le faire. Vous êtes bien sûr en mesure d'agir. À mon avis, vous pouvez adopter une réglementation à très court terme. Vous pouvez prendre des mesures précises pour entraîner un changement, comme tous l'ont mentionné. Des gens comme Mme Ressa demandent de l'aide.
    Les représentants de Google nous ont dit, en réponse à la nouvelle loi électorale fédérale sur la publicité: « Nous n'accepterons simplement plus de publicité. »
    Est-il possible que ces sociétés qui possèdent des mégadonnées puissent simplement se retirer des administrations où il y a des règlements, en l'absence d'une réglementation harmonisée dans toutes les démocraties?

  (0925)  

    C'est la meilleure nouvelle possible parce que, comme tout le monde l'a dit ici, le but du capitalisme de surveillance est de miner l'autonomie personnelle. Les élections et la démocratie sont centrées sur la souveraineté en soi et le fait d'exercer une volonté souveraine. Pourquoi voudrait-on miner le fondement d'une élection de manière non transparente en acceptant la proposition du plus offrant au moment même où les citoyens peuvent être influencés?
    En fait, les revenus qui en découlent sont sans importance pour ces entreprises. Une de mes recommandations, c'est de simplement interdire les publicités personnalisées en ligne pendant les élections. Il y a bien des choses qu'on ne peut pas faire pendant six ou huit semaines. Il suffit d'ajouter cette proposition. C'est simple et direct.
    À mon avis, on a négligé un aspect très important, et c'est le fait que, si ces entreprises disparaissent demain matin, les services qu'elles offrent demeureraient sur le marché. Il ne faudrait pas beaucoup de temps. En quelques semaines, on pourrait reproduire Facebook, qui serait le plus difficile. Il existe des produits de remplacement à tout ce que fait Google, sans le capitalisme de surveillance. Ne permettez pas à votre esprit d'établir un lien entre les services que vous aimez et le modèle de gestion du capitalisme de surveillance. Il n'y a absolument aucun lien inhérent. Il s'agit d'un concept qui a été créé par ces gens parce qu'il est beaucoup plus profitable.
    Merci.
    Merci, monsieur Kent.
    La parole est maintenant à M. Angus.
    Merci, monsieur le président.
    Je vais dire d'emblée que je représente une région qui est plus grande que le Royaume-Uni. Je suis le représentant de collectivités qui n'ont pas de routes et de certaines des communautés autochtones les plus pauvres. Facebook et YouTube ont permis aux communautés autochtones de se parler entre elles et de changer la façon dont la société blanche parle d'elles. Je sais qu'il s'agit d'un pouvoir considérable qui permet d'accomplir de bonnes choses.
    Cependant, dans ma région, je vois de plus en plus de gens qui se radicalisent et à qui il est impossible de parler. Il y a des gens qui croient que la Terre est plate — oui, il y en a; je les ai rencontrés —, qui sont contre les vaccins et qui détiennent la vérité sur le 11 septembre. J'ai constaté les effets sur nos élections de la manipulation de matériel anti-immigrants et antimusulmans, mais je n'avais pas encore vu de menaces de mort.
    Madame Ressa, vous avez dit hier que, même si, en Occident, des menaces pèsent sur notre démocratie, des gens meurent en Asie à cause de la manipulation de ces plateformes. Dans un geste de solidarité avec notre Parlement et nos législateurs, y a-t-il des déclarations qui devraient être faites publiquement par notre Parlement pour vous appuyer afin que nous puissions maintenir un lien avec vous comme alliée de première ligne? Voilà ma première question.
    Merci.
    Le premier ministre Trudeau, lorsqu'il a visité Manille, a été le seul, parmi tous les dirigeants mondiaux qui étaient présents lors du sommet de l'APEC, à avoir parlé des droits de la personne. Le Canada joue un rôle de premier plan pour défendre les valeurs des droits de la personne et de la liberté de la presse.
    Je vous remercie à l'avance. Je pense que plus nous parlons de cette question, plus les valeurs sont renforcées, particulièrement parce qu'une personne comme le président Trump aime vraiment le président Duterte, et vice-versa. C'est très personnel.
    Comme vous l'avez dit, nous constatons que des gens meurent partout en Asie. Il y a le Myanmar. Une guerre antidrogue faire rage ici aux Philippines. En Inde et au Pakistan, il y a des cas où cet outil est utilisé à des fins d'autonomisation, tout comme dans votre région, et c'est quelque chose que nous ne voulons pas voir disparaître ni fermer. Malgré les grandes menaces auxquelles mon entreprise et moi faisons face, Facebook et d'autres plateformes de médias sociaux nous permettent encore d'organiser et de créer des initiatives d'action communautaire qui n'existaient pas auparavant.
    Merci beaucoup.
    Je m'inquiète beaucoup de Sidewalk Labs. Du point de vue d'une transaction immobilière, il s'agit peut-être de l'immeuble le plus important en Amérique du Nord qui ait été remis à Google à la suite de la plus courte demande de propositions qu'a vue la vérificatrice générale de l'Ontario — je crois qu'on parle de six semaines. C'est 10 semaines pour un projet artistique local dans la région. Dan Doctoroff nous a dit que c'était la demande de propositions la plus longue de l'histoire. La vérificatrice générale était préoccupée par le fait qu'il n'y a eu aucune participation publique et que cela s'est fait en secret. Dan Doctoroff a affirmé qu'il s'agissait du processus le plus ouvert qui soit.
    Je m'inquiète beaucoup de la privatisation de l'espace public. Je viens d'une région minière. Nous avions des villes de compagnie. Nous nous sommes battus comme des diables pour nous en débarrasser.
    M. Balsillie et Mme Zuboff nous ont fait part de leur point de vue, alors, monsieur McNamee, que devraient faire, selon vous, les citoyens de Toronto concernant le don à Google de l'immeuble le plus important au centre-ville, où nombre de personnes se rassemblent?

  (0930)  

    Je ne laisserais pas Google venir à moins de 100 miles de Toronto. Le problème fondamental ici, c'est l'autonomie gouvernementale et l'autodétermination. Je crois qu'aucune entreprise — pas Google ni qui que ce soit — ne devrait être responsable de gérer nos espaces publics et nos infrastructures municipales. Il y a une limite à ce qu'on peut faire avec un partenariat public-privé, et cela va bien au-delà de cette limite.
    Je crois qu'il y a actuellement à Barcelone un projet de ville intelligente dans le cadre duquel la collectivité et les citoyens détiennent les données. C'est quelque chose qui sera très intéressant à suivre.
    Je dirais que je demeure prudent par rapport à la question de la collecte de données. Je crois que les problèmes sous-jacents à la surveillance créent trop de tentations pour les gens. À l'heure actuelle, il est beaucoup trop difficile de surveiller ce que font ces entreprises avec les données après les avoir recueillies. À mon sens, comme on dit souvent au gouvernement, il faut étudier encore davantage tous ces aspects avant d'aller de l'avant.
    Merci.
    Merci, monsieur Angus.
    C'est maintenant au tour de nos délégations.
    Nous allons passer aux représentants du Parlement de Singapour pour cinq minutes.
    Je remercie chaleureusement tous les témoins de leurs exposés ce matin.
    Monsieur McNamee, vous avez dit que le modèle de gestion de ces plateformes est vraiment axé sur des algorithmes qui déterminent le contenu que les gens veulent voir. Vous avez également mentionné que la peur, l'indignation, les discours haineux et les théories du complot sont plus vendeurs. J'imagine que vous vouliez dire que c'est plus vendeur que la vérité. Est-ce exact?
    Une étude du MIT à Cambridge, au Massachusetts, montrait que la désinformation se propageait 70 % plus loin et 6 fois plus rapidement que les faits. Il y a un facteur humain qui explique assez bien pourquoi les discours haineux et les théories du complot se propagent aussi rapidement. Cela déclenche la réaction de lutte ou de fuite.
    Oui. Si on tient compte de ce qu'a dit Mme Ressa plus tôt concernant la façon dont la désinformation se propage grâce à l'utilisation de robots de recherche — je crois qu'elle a dit que 26 faux comptes se traduisaient en 3 millions de comptes différents qui diffusaient de l'information —, je crois que nous faisons face à une situation où la désinformation, si on ne la surveille pas adéquatement, peut devenir virale de manière exponentielle. Les gens peuvent voir cette désinformation en tout temps, à nombre de reprises, sans aucune vérification. Cela ébranle gravement la confiance et mine sérieusement les institutions, de sorte que les gens n'ont plus confiance dans les élections et la démocratie devient essentiellement marginalisée et finit par être anéantie.
    Est-ce exact, selon votre évaluation?
    Je souscris complètement à cet énoncé. Selon moi, le défi se pose dans la façon dont on gère la désinformation. Lorsqu'on y pense, la censure et la modération n'ont jamais été conçues pour traiter les choses à l'échelle dont fonctionnent ces plateformes numériques. À mon avis, la meilleure stratégie, c'est d'imposer une interdiction en amont et de se demander quel est le rôle fondamental de telles plateformes dans la société et quel est leur modèle de gestion. À mon sens, ce qu'il faut vraiment faire...
    Ma partenaire, Renée DiResta, est chercheuse dans ce domaine. Elle parle de la question de la liberté d'expression par rapport à la liberté d'atteinte, qui est un mécanisme d'amplification. Sur ces plateformes, ce qui se passe vraiment, c'est que les algorithmes trouvent ce qui intéresse les gens et amplifient cela encore plus. Malheureusement, les discours haineux, la désinformation et les théories du complot sont, comme je l'ai dit, l'herbe à chat qui fait vraiment ronronner les algorithmes et réagir les gens. Dans ce contexte, l'élimination de cette amplification est essentielle.
    Mais comment y arriver, et comment vérifier que cela est fait? Je pense que la meilleure façon d'y arriver, c'est tout d'abord d'empêcher la cueillette de données.
    Je crois qu'il faut essentiellement travailler en amont pour régler le problème en ce qui concerne l'infrastructure. Certains témoins ont également mentionné que nous devons examiner l'éducation, ce que j'approuve complètement, mais, lorsque cela se produit, et lorsqu'il y a une prolifération de fausses informations, il doit y avoir un mécanisme en aval qui permet de réagir.
    C'est là où votre exemple du Sri Lanka est très pertinent parce qu'il démontre que, si on ne les surveille pas, les plateformes ne font rien à propos de la diffusion de fausses informations. Il faut que les organismes de réglementation et les gouvernements puissent intervenir de manière musclée afin de perturber très rapidement la diffusion virale de mensonges en ligne.
    Êtes-vous d'accord avec moi?

  (0935)  

    De façon générale, je ne serais pas en faveur du niveau d'intervention gouvernementale que j'ai recommandé ici. Je ne vois tout simplement pas d'autre solution à l'heure actuelle.
    Pour être en mesure de faire ce dont parlait Mme Zuboff et M. Balsillie, il faut un certain pouvoir, et le seul dont disposent les gouvernements aujourd'hui, c'est leur capacité de cesser les activités de ces plateformes. Rien d'autre ne fonctionne assez rapidement.
    Oui, exactement. La vitesse d'intervention est essentielle dans cette situation. Regardez ce qui s'est passé au Sri Lanka, au Myanmar et récemment à Jakarta. C'est ce qui s'est produit.
    M. Roger McNamee: Oui.
    M. Edwin Tong: Merci. Ma collègue va poser quelques questions.
    J'ai quelques questions supplémentaires pour M. McNamee. J'aimerais parler de la fusillade de Christchurch du 15 mars 2019. Après l'attaque, le New York Times a publié un article rédigé par M. Kevin Roose. J'aimerais citer ce qu'il a mentionné dans son article. Voici ce qu'il a dit:
[...] nous savons effectivement que la conception des plateformes Internet peut créer et renforcer les croyances extrémistes. Leurs algorithmes de recommandation dirigent souvent les utilisateurs vers du contenu plus provocateur, et cela fait en sorte que les utilisateurs passent plus de temps sur l'application, ce qui génère des recettes de publicité plus importantes pour l'entreprise.
    Monsieur McNamee, convenez-vous que la conception des plateformes Internet permet plus facilement aux idéologies extrémistes de prendre de l'ampleur et de rallier des tenants?
    Non seulement j'adhère à cela, mais j'aimerais dire quelque chose de vraiment important: la conception même d'Internet fait partie du problème. Je fais partie de la génération — tout comme M. Balsillie — qui a vu Internet être initialement pensé et conçu. L'idée, à l'époque, c'était qu'on pouvait faire confiance aux gens dans l'anonymat; c'était une erreur parce que de mauvais acteurs utilisent l'anonymat pour faire de mauvaises choses. Internet a essentiellement permis aux gens mécontents de se regrouper et de s'organiser d'une manière qui aurait été impossible dans le monde réel.
    Si nous prenons l'exemple de Christchurch, nous devons reconnaître que la première étape était un énorme travail de collaboration. Cet homme a rassemblé au moins 1 000 conspirateurs avant de commettre son geste en utilisant l'anonymat d'Internet pour les regrouper et les préparer pour cette attaque. Ce n'est qu'à ce moment-là, après tout ce travail de préparation, que les processus d'amplification du système ont pu fonctionner. N'oubliez pas que ces mêmes personnes continuaient de republier la vidéo. Elle existe toujours, d'ailleurs.
    Oui, en effet.
    Merci. Vous n'avez plus de temps, mais s'il nous en reste à la fin de la série, nous reviendrons à vous pour vos autres questions.
    C'est maintenant au tour de la République d'Allemagne pour cinq minutes.
    J'aimerais commencer par Jim Balsillie. Vous avez mentionné dans une de vos six recommandations la question des taxes. En tant que membre de notre comité sur les finances, je vais dire que c'est, à de nombreux égards, un aspect important. Pourriez-vous nous donner plus de détails?
    Vous avez mentionné particulièrement la question des taxes sur la publicité. Selon vous, y aurait-il d'autres secteurs? Particulièrement dans le monde numérique, nous sommes au fait du problème causé par les différences entre les pays et savons qu'il est difficile pour les pays d'imposer correctement un régime de taxes adéquat.
    Certainement. Je parlais des groupes qui achètent les publicités. Le problème fondamental ici, c'est que lorsqu'ils dépendent de la publicité — on a entendu le témoignage d'excellents experts à cet égard —, ils font tout en leur pouvoir pour attirer plus d'attention. Le modèle par abonnement est beaucoup plus sécuritaire parce qu'il n'est pas axé sur l'attention.
    Un des objectifs d'une taxe, c'est de gérer les externalités. Si on n'aime pas les externalités auxquelles on fait face et dont on a parlé ici, alors il faut les défavoriser. Nombre des plateformes se tournent vers des modèles par abonnement de toute façon, alors on n'a qu'à utiliser les taxes comme mécanisme pour accomplir cela. L'avantage, c'est que le gouvernement en tire des recettes. Cela permettrait également d'entamer un virage vers des services plus nationaux. Je pense que la perception d'une taxe est un levier qui n'a pas encore été utilisé, et c'est à votre disposition.
    Merci. Je ferai peut-être un commentaire sur la reddition de comptes.
    Selon notre expérience en Allemagne avec l'entrée en vigueur de notre loi, la NetzDG, je dirais que la reddition de comptes est un aspect fréquemment mentionné qui cause nombre de maux de tête aux réseaux parce que, à ce stade, ça devient très personnel; j'adhère donc complètement à ce que vous avez dit.
    Madame Zuboff, j'aimerais revenir sur le soutien aux nouvelles formes d'action citoyenne que vous avez mentionnées. En tant qu'élus ici, nous connaissons exactement l'importance de convaincre le public et nos électeurs. Également, selon ce que nous avons vécu en Allemagne, nous savons que nombre d'utilisateurs craignent beaucoup ce qu'a mentionné Roger McNamee, soit la fermeture des médias sociaux. Je ne crois pas que nous recevrions des félicitations si nous faisions cela. Nous éprouverions beaucoup de problèmes avec nos citoyens.
    Selon vous, comment pourrions-nous faire comprendre aux utilisateurs — les citoyens — que des mesures comme celles-ci sont nécessaires? Comment pouvons-nous éviter qu'on perçoive cela comme une certaine censure imposée par les gouvernements? Nous sommes toujours dans cette zone où l'ingérence gouvernementale peut également être perçue comme de la censure.

  (0940)  

    Il est vraiment essentiel d'être conscient de cet équilibre. Évirdemment, les gouvernements autoritaires adoreraient la recommandation de M. McNamee — fermer les médias sociaux parce qu'on n'aime pas ce qu'ils disent. De toute évidence, ce n'est pas l'intention ici, alors comment pouvons-nous faire cette distinction?
    Une chose que je peux dire, c'est que je crois vraiment que nous sommes en plein dans une ère de changement en ce qui concerne la réaction du public. Je me demande si vous l'avez constaté en Allemagne. J'ai voyagé partout dans le monde, dans de nombreuses villes, au cours des cinq derniers mois, et ce, de manière continue. Chaque fois que je m'adresse à un groupe, je commence par la question suivante: quelles sont les préoccupations qui vous ont amenés ici?
    Dans différentes parties du monde et dans chaque groupe, peu importe où je me trouve, on dit la même chose. Je leur demande de crier un mot. On commence par « anxiété », « manipulation », « contrôle », « peur », « résistance », « démocratie », « liberté », « rébellion », « malaise » — c'est le même champ sémantique. Ce que j'ai appris, c'est qu'on sent, au sein de nos populations, qu'il y a un problème, qu'il y a un pouvoir qui ne correspond pas à nos intérêts, que nous ne comprenons pas et que personne ne peut maîtriser.
    C'est le début. Le travail que nous réalisons fait évoluer les choses lorsqu'on a des exemples comme Cambridge Analytica et Chris Wiley. Je pense qu'il y a une certaine maturité à cet égard.
    Je vous conseillerais d'examiner les endroits où il y a déjà une cristallisation d'idées émergentes. Barcelone en est un qui est entièrement fondé sur la solidarité citoyenne. D'autres villes emboîtent également le pas. Des groupes de travailleurs du domaine numérique essaient de concevoir une souveraineté et des communautés numériques.
    Il s'agit d'amplifier toutes ces initiatives communautaires. L'autre aspect — et Mme Ressa l'a également mentionné —, c'est l'éducation. Nous sommes encore dans une situation où chaque recherche validée par des pairs nous montre sans cesse que nombre de personnes ne comprennent tout simplement pas ces activités menées en coulisse. Pourquoi? Parce que des milliards de dollars ont été investis pour qu'elles soient conçues de façon à nous garder dans l'ignorance.
    Nous devons vraiment changer cette façon de procéder au moyen de la communication et de l'éducation.
    Merci beaucoup.
    C'est maintenant au tour de la République du Chili.
    Il semble que le représentant n'est pas encore ici, alors nous allons passer à la représentante de l'Estonie pour cinq minutes.
    Je vous remercie infiniment de ces exposés inspirants pour entamer la séance ce matin.
    Je vais commencer par une question qui s'adresse à M. McNamee. Selon ce que je comprends, il est très difficile de remettre le dentifrice dans le tube une fois qu'il en est sorti. Je pense effectivement que l'utilisation de l'intelligence artificielle — des algorithmes — est là pour rester. Pour être honnête, l'IA n'est pas mauvaise en soi.
    Je formulerais ma question ainsi: si vous étiez à ma place aujourd'hui, quelles seraient les trois mesures que vous recommanderiez ou prendriez, à l'exception de la fermeture de ces plateformes?

  (0945)  

    L'enjeu actuel, c'est que, aux États-Unis, ou en Amérique du Nord, environ 70 % des professionnels de l'intelligence artificielle sont à l'emploi de Google, de Facebook, de Microsoft ou d'Amazon. De prime abord, ils travaillent tous sur la manipulation du comportement. Il y a au moins un million d'excellentes applications de l'intelligence artificielle. La manipulation du comportement n'en est pas une. Je ferais valoir que c'est comme programmer la libération d'anthrax ou cloner des bébés humains. Il s'agit d'une idée complètement inappropriée et répugnante sur le plan moral, mais c'est ce que font ces gens.
    Pour revenir à ce qu'a affirmé M. Zimmermann, je dirais simplement que la menace d'interrompre les activités de ces plateformes et la volonté de le faire pendant de courtes périodes nous donnent le pouvoir de faire ce que je veux vraiment faire: éliminer le modèle de gestion de la manipulation du comportement et de la surveillance des données. À mon avis, il ne s'agit pas de remettre le dentifrice dans le tube. Il faut essayer de trouver une recette de dentifrice qui n'empoisonne pas les gens.
    Je crois que c'est exactement ce qui s'est passé avec l'industrie chimique dans les années 1950. Les entreprises de cette industrie déversaient leurs déchets — du mercure, du chrome et des choses du genre — directement dans l'eau douce. Elles laissaient des résidus miniers près de collines. Les stations-service vidaient l'huile usée dans les égouts, et, comme il n'y avait aucune conséquence, l'industrie chimique a connu une croissance fulgurante et fait des profits incroyables. C'était l'industrie de la plateforme Internet de cette époque. Ensuite, un jour, la société s'est réveillée et a compris que ces entreprises devraient être responsables des externalités qu'elles créaient. C'est ce dont je parle ici.
    Il ne s'agit pas d'arrêter le progrès. C'est mon travail, et c'est ce que je fais. Je pense seulement que nous devrions arrêter de faire du mal aux gens. Il faut arrêter de tuer des gens au Myanmar et aux Philippines et cesser de détruire la démocratie d'autres pays. Nous pouvons faire beaucoup mieux. Tout revient au modèle de gestion.
    Je ne veux pas prétendre que je connais toutes les solutions. Ce que nous savons, c'est que les gens ici dans la salle font partie de la solution, et notre travail, c'est de vous aider à aller de l'avant. Ne prenez pas ce que je dis comme des directives strictes. Voyez cela comme quelque chose sur lequel nous allons travailler ensemble.
    Nous sommes tous trois heureux d'être la cible d'attaques à votre place parce que nous reconnaissons qu'il n'est pas facile d'être fonctionnaire avec ces enjeux. Mais n'oubliez pas que vous n'allez pas demander à vos électeurs d'abandonner ce qu'ils aiment. Cela existait avant ce modèle de gestion et continuera d'exister après celui-ci.
    Comme je viens d'un pays où essentiellement toute la vie est numérique, je conviens tout à fait que cela ne signifie pas l'arrêt du progrès.
    Je vais poursuivre maintenant avec M. Balsillie. Vous avez souligné à plusieurs reprises la nécessité de réglementer le microciblage politique ou les publicités des partis politiques. Je dois donner l'exemple de 2007 lorsque l'Estonie a subi pour la première fois une cyberattaque massive très grave. La cible principale n'était pas le secteur public, mais principalement le secteur privé. J'ai constaté qu'on peut causer beaucoup de dommages en visant tout sauf les partis politiques.
    Croyez-vous que la réglementation doit être différente pour le microciblage politique et l'ensemble des autres publicités, ou pensez-vous que, essentiellement, les mêmes règles sont nécessaires pour les deux secteurs?
    Je conviens avec M. McNamee qu'il faut réglementer les deux secteurs, mais un aspect qui est particulièrement pernicieux, c'est les attaques des fondements de notre démocratie. Je crois que toutes les activités entre les partis politiques et ces plateformes doivent être complètement transparentes. À mon avis, les partis politiques devraient être assujettis aux dispositions législatives sur la protection des renseignements personnels. Croyez-le ou non, au Canada, les partis politiques ne sont pas régis par ces dispositions. Je pense qu'il faut un type spécial d'interdiction personnalisée pendant des élections.
    Je suis d'accord avec M. McNamee pour dire que le modèle de gestion comporte des lacunes fondamentales. Il faudra tout un éventail d'activités pour y arriver, mais l'arène politique est l'endroit le plus délicat et le plus vulnérable qu'il faut protéger immédiatement.
    On peut causer beaucoup de dégâts avec des publicités microciblées concernant les dommages environnementaux, par exemple, les médicaments ou plusieurs autres secteurs.
    Ma dernière question serait...

  (0950)  

    Votre temps est écoulé. Nous en sommes déjà à six minutes, alors nous allons poursuivre avec une autre délégation. Je crois que nous aurons le temps de revenir sur ce sujet dans une autre série de questions. Je vois que certaines délégations ne sont pas encore arrivées.
    Nous allons passer au Mexique.
    Merci. Je vais parler dans ma langue, si vous me le permettez.
    [La déléguée s'exprime en espagnol.]
    Au Mexique, le président actuel a récemment participé trois fois aux élections. Chaque fois, il a été censuré dans les médias traditionnels au point où, grâce aux médias sociaux, nous avons été en mesure de communiquer entre citoyens. Cela a permis la démocratisation et renforcé la participation au Mexique ces derniers temps.
    Toutefois, nous faisons également face à une autre question qui concerne les robots, qui permettent de diffuser des tendances sur Twitter, Facebook et d'autres plateformes pour miner notre régime. Des auteurs au Mexique parlent de la quatrième génération d'une guerre qui concerne la diffusion d'informations dans les réseaux sociaux.
    La fin de semaine passée, une personne, qui faisait partie du cabinet du président, a quitté son poste. Nous avons constaté sur Twitter que le président allait nommer une personne corrompue pour être en charge de l'environnement. On a ensuite commencé à dire que le président l'était lui aussi parce qu'il voulait nommer une personne que l'on accusait de corruption. Ça n'a jamais été l'idée. Hier, il a nommé quelqu'un d'autre. Même si c'était clair, rien ne s'est produit.
    Comment pouvons-nous composer avec ce type de situation de démocratie et d'antidémocratie qui est encouragé sur les réseaux sociaux? Bien sûr, ces derniers permettent aux gens de participer au processus démocratique, mais nous voyons également la création de ces tendances.
    Il y a un autre sujet qui concerne ce dont a souffert Maria Ressa. La question du sextage est quelque chose qui concerne les femmes sur la scène internationale parce que nous sommes au fait de nombreux cas où elles se présentent devant toutes sortes d'entités nationales qui ne peuvent rien faire parce que, essentiellement, il n'existe aucune loi. En même temps, ce problème transcende les frontières. Ce que nous devons faire, c'est aller voir Google. Cette société est devenue en quelque sorte un tribunal international. Il est très difficile de se débarrasser de ces images. Il y a eu des suicides. Des gens ont commis des actes horribles en raison de cela. Que pouvons-nous faire à l'échelle internationale? Comment pouvons-nous travailler ensemble, hommes et femmes, pour mettre fin à cela une fois pour toutes?
    Merci.
    On répète à maintes reprises le même thème. Si on pense à l'histoire de la science et de l'ingénierie au XXe siècle, l'idée, c'était de créer des systèmes qui régleraient tous les problèmes et assureraient la sécurité de manière intégrée. Dans le domaine de la médecine, par exemple, on voulait mettre au point des vaccins qui pouvaient éradiquer les virus. En ingénierie, c'était les systèmes de secours, les systèmes à sécurité intégrée et des couches de systèmes qui pouvaient résoudre des crises lorsqu'elles se produisaient... c'était une question de sécurité.
    Il est extraordinaire qu'Internet ait été lancé dans le monde pour propager des virus sans vaccin et créer des voies qui permettent les types de choses que vous décrivez — les robots et la désinformation — sans aucun type de système à sécurité intégrée. Comme on l'a dit, cela revient à un problème fondamental, c'est-à-dire qu'il n'y a pas de modération du contenu. Il n'y a que des chaînes d'approvisionnement de surplus de comportements et l'idée de protéger ces flux de données relatives au comportement. Les plateformes sont conçues pour faire une chose très précise. Les seules mesures qu'elles prennent, c'est lorsqu'elles risquent de perdre la participation des utilisateurs parce qu'elles exploitent les surplus de flux d'informations ou, par ailleurs, lorsqu'elles s'exposent à des poursuites judiciaires.
    Sans cela, ces plateformes ne sont pas du tout programmées pour prendre des dispositions parce que fondamentalement, tout ce qui limite les flux de surplus d'informations sur le comportement et la circulation de données est une menace existentielle.
    C'est là où nous avons l'occasion, tout comme vous, de créer des mécanismes d'intervention lorsqu'il y a... Je ne crois pas que cela puisse simplement être une réaction instinctive aux difficultés auxquelles le président s'est heurté à un moment donné. Nous devons penser de manière plus systémique et nous attaquer aux causes profondes du problème. Autrement, nous risquons d'éprouver les ennuis dont parlait M. Zimmermann: la perception que les gouvernements sont complaisants.
    Il faut concevoir ces mécanismes fondamentaux sur lesquels nous insistons: il ne peut pas y avoir de virus sans vaccin; il faut donc des moyens prévus pour arrêter les mensonges. C'est une menace existentielle au capitalisme de surveillance. Par conséquent, nous devons revenir à la base et examiner la logique économique. Cela couvrira les agressions sexuelles et politiques dans les réseaux sociaux. Toutes ces agressions font partie de la même contradiction économique.

  (0955)  

    Merci beaucoup.
    Nous allons maintenant passer au Maroc pour cinq minutes.
    Permettez-moi tout d'abord de remercier les organisateurs et les coorganisateurs d'avoir fait de cette réunion l'événement qu'elle est aujourd'hui.
    J'ai suivi avec attention les interventions précieuses et utiles, qui visaient toutes à transmettre des idées et des réflexions sur la protection des données personnelles, d'une part, et sur la corrélation entre cette protection et la démocratie, d'autre part, qui est l'essentiel du sujet.
    Inutile de vous rappeler que la violation de la vie privée ébranle, sinon compromet, nos choix démocratiques. Autrement dit, la conservation de données personnelles par certains acteurs, qu'il s'agisse d'acteurs étatiques ou commerciaux, rend nos démocraties vulnérables et sujettes à la manipulation. Aujourd'hui, qu'on le veuille ou non, nous devenons tous mobidépendants, au point où cela me fait penser à Frankenstein de Mary Shelley. Nous devenons victimes de nos machines.
    J'ai entendu Shoshana parler de l'incapacité des législateurs d'élaborer des lois et d'appliquer des cadres. Galilée a dit un jour: « Tu ne peux pas tout enseigner à un homme; tu peux seulement l'aider à le trouver en lui. » Je suppose que c'est ce que nous devons comprendre aujourd'hui, plus que jamais auparavant et au-delà des restrictions, des lois et des règlements.
    Ne pensez-vous pas — ma question s'adresse à Shoshana — que c'est une question éthique? Personne ne peut légiférer en matière d'éthique, mais ce qui est effrayant aujourd'hui, c'est que, plus cela demeure, plus ce sera difficile à gérer.
    Comment réagiriez-vous à ce sujet?
    C'est une excellente question. Je sais que je n'ai pas eu le temps ce matin de vous en parler, mais c'est dans ma déclaration écrite.
    Il y a ici une histoire fascinante au sujet d'un sous-comité du Sénat américain qui s'est réuni en 1971, présidé par un sénateur célèbre, Sam Ervin, l'un des sénateurs du Watergate qui a défendu la démocratie dans cette crise. C'était un comité bipartite, composé de personnes allant du conservateur extrême Strom Thurmond à Ted Kennedy. Le sous-comité a été convoqué au sujet de la modification du comportement, un concept né pendant la Guerre froide et qui était alors utilisé dans les écoles, les hôpitaux, les prisons et toutes sortes d'institutions de populations captives. Sam Ervin a rédigé la conclusion pour le sous-comité. Il a déclaré que la modification du comportement porte fondamentalement atteinte à la souveraineté individuelle et prive les personnes de leur autonomie; or, sans souveraineté individuelle et sans autonomie, il ne peut y avoir de liberté, et sans liberté, il ne peut y avoir de démocratie.
    Le résultat de quatre années de délibération au sein de ce sous-comité a été d'éliminer tout financement fédéral pour les programmes de modification du comportement. C'était dans les années 1970. Je pense aux années 1970 comme si c'était il y a cinq minutes. C'était parmi les meilleures années de ma vie. C'était il n'y a pas si longtemps. On parlait de cibler les institutions, les organisations liées. Nous sommes en 2019 et nous avons des architectures mondiales de modification du comportement soutenues par des billions de dollars de capitaux. Où est l'indignation? Où est le sens moral? Où est la voix en nous qui nous dit que cela ne peut pas continuer? Cela va à l'encontre de tout ce sur quoi nos sociétés sont fondées.
    Je suis d'accord avec vous. Une partie de notre défi consiste maintenant à surmonter les idéologies des 40 dernières années qui ont rabaissé le gouvernement et l'État et qui ont rejeté la réglementation comme une atteinte à la liberté. Le défi est de comprendre, comme je l'ai dit, que ces entreprises en savent trop pour être admissibles à la liberté. Nous avons besoin uniquement de la démocratie. Examinez tout ce qui se profile à l'horizon. Cependant, la démocratie signifie que vous seul avez le pouvoir, la capacité et les outils nécessaires pour intervenir dans ce processus avant qu'il ne soit trop tard.
     Je n'ai qu'un tout petit commentaire à faire au sujet d'une chose qui a été dite tout à l'heure. Ce ne sera pas fait dans un an. Je pense que vous avez soulevé cette question, monsieur Kent, celle du temps. Ce genre de changement, ce genre de transformation structurelle n'est pas l'œuvre d'un jour, d'un mois ou d'une année, mais cela peut se faire en cinq ans. Peut-être que dans cinq ans — certainement dans les dix prochaines années —, nous aurons la possibilité de réorienter le Titanic. Nous avons le temps et les moyens de le faire. Ce dont nous avons besoin, comme vous venez tout juste de le dire, c'est de nous reconnecter avec nos repères moraux. Ils sont là, et nous ne devrions pas nous laisser intimider.

  (1000)  

    Je vous remercie, madame Zuboff.
    Nous allons maintenant passer au Costa Rica.
    [La déléguée s'exprime en espagnol et est interprétée comme suit:]
    J'aimerais vous faire part de deux choses que nous avons faites au Parlement du Costa Rica, ainsi qu'à la présidence de la République, afin de nous occuper de ces effets.
    Récemment, la présidente du pays s'est prononcée contre un groupe de trolls qu'elle a pu identifier parce qu'il diffusait de fausses nouvelles. En conséquence, nous avons créé des mécanismes de double vérification, des mots-clics tendance révélant la vérité à propos des fausses nouvelles. Nous avons également créé un mot-clic pour nous permettre de vérifier l'information qui est diffusée, soit #NeLesLaissezPasVousMentir. Il s'agit plutôt d'un mouvement de vérification de l'information sur la société civile pour ceux qui veulent connaître la vérité.
    Cette mesure a, d'une certaine manière, calmé la situation, mais nous devons nous demander si la possibilité de créer ces règles sous-tend que l'on doit restreindre la liberté d'expression. Le mouvement social a eu plus d'effets que le débat au Parlement. Je tenais à le dire, puisque c'est la présidente qui en a parlé. Cela a grandement contribué à la diffusion de l'information.

  (1005)  

    Madame Ressa, avez-vous des commentaires? Il y a longtemps qu'on ne vous a pas entendue.
    Une partie de ce que nous voyons encore ici, c'est le débat autour de l'aspect du contrôle de l'accès.
    J'examinerai la situation dans le contexte de l'éthique et des normes journalistiques qui sont les valeurs de la modération du contenu, comme l'a dit Mme Zuboff. Le contrôle de l'accès est une modification du comportement. Les journalistes ont toujours eu la possibilité de le faire, mais la raison pour laquelle nous ne l'avions pas fait auparavant est précisément parce que nous étions tenus responsables. Il y avait toujours une fonction d'autoréglementation.
    Je pense qu'il suffit de faire une action très simple... Ce qui m'inquiète parfois, même si nous sommes attaqués, c'est que ce serait jeter le bébé avec l'eau du bain. Mme Zuboff a mentionné la transparence; il y a la transparence, la responsabilité, puis la cohérence. Je pense que nous assistons actuellement à une destruction créative et, en s'empressant de tout chambouler sans commencer par un seul élément, on risque de jeter le bébé avec l'eau du bain.
    Je vous remercie, madame Ressa.
    Nous allons passer au dernier pays dont le représentant posera une question, Sainte-Lucie. Les représentants de Singapour et de l'Estonie auront le temps de poser une question supplémentaire.
    Allez-y.
    Merci, monsieur le président.
    Je viens d'un pays ou d'une région où l'on disait autrefois — on le dit encore, je suppose — que, lorsque le premier pays éternue, nous attrapons le rhume. Nous n'avons jamais compris, ou nous n'avons jamais su... Nous avons participé aux plateformes de Facebook, mais, jusqu'aux élections américaines de 2016, nous n'avons jamais su quel effet elles avaient sur nous. C'est à ce moment-là que nous avons appris l'existence de Cambridge Analytica et de la participation des autres plateformes à nos propres élections nationales.
    Comme nous sommes un territoire vierge, pour ainsi dire, quels conseils pourriez-vous nous donner dans notre région quant à la façon dont nous pourrions nous protéger à l'avenir? On dirait presque que le premier pays a la peste. Nous ne voulons pas l'attraper. Comment devrions-nous nous protéger?
    Je vais commencer et je vais faire le tour de la question.
    Je pense que vous avez ici un forum où vous apprenez les uns des autres, et c'est trop demander à chaque personne d'apprendre par elle-même. De plus, ces entreprises sont très habiles pour vous manipuler les uns les autres, alors je vous encourage à trouver un moyen d'institutionnaliser votre forum comme quelque chose auquel les autres peuvent se joindre et qu'ils peuvent préserver afin que vous puissiez transmettre des pratiques exemplaires. Je pense que cela vous protégera d'un côté.
    Une chose dont nous n'avons pas beaucoup parlé aujourd'hui, c'est l'avantage très profond que nous avons tiré des dénonciateurs qui nous ont vraiment ouvert les yeux sur ce sujet. Les dénonciateurs, tant le secteur privé que le secteur public, nous renseignent sur cette activité. Dans la série des choses que vous allez faire, assurez-vous de garantir la protection des dénonciateurs,individuellement et collectivement, tant pour le gouvernement que pour le secteur privé.
    J'aimerais vraiment ajouter quelque chose à ce que Jim vient de dire et souligner ses propos. Il y a là une occasion pour une collectivité, pour ce groupe, de commencer à déterminer certains des types d'interventions, des interventions stratégiques et des mesures réglementaires, que vous voulez expérimenter. Il y a peut-être différents pays ici qui deviennent le laboratoire vivant de certaines expériences, mais vous ne le faites pas seuls. Vous le faites avec vos collègues. Tout le monde surveille, tout le monde apprend et tout le monde aide à peaufiner, puis tout le monde participe à la migration des pratiques exemplaires dans toutes les conversations qui ont lieu dans chaque pays.
    Je veux vraiment vous encourager à approfondir la question, mais à le faire d'une manière qui aide à créer cette vision institutionnelle que Jim décrit, parce que c'est ce qui va faire avancer nos sociétés communes.

  (1010)  

    Monsieur Daniel, je pense que vous avez un énorme problème si vous essayez de régler cette question par vous-mêmes. Je pense que Google ne croit pas qu'il est en concurrence avec Facebook. Facebook ne croit pas être en concurrence avec Google. Je pense que Google estime être en concurrence avec le gouvernement de la Chine, où les entreprises de technologie relèvent du gouvernement. Je pense que Google s'estime être en concurrence sur ce plan et qu'il considère les pays, au mieux, comme étant des filiales. Je pense qu'il est incroyablement doué pour monter les pays les uns contre les autres, ainsi que pour retarder les choses assez longtemps pour qu'il devienne impossible d'agir.
    Le modèle de gestion est le problème. Il est omniprésent et, pour un pays plus petit, les degrés de liberté qui s'offrent à vous sont très limités. Encore une fois, je déteste revenir à l'exemple du Sri Lanka, mais à ce que je sache... Peu importe la taille de votre pays. Je pense que c'est tout aussi vrai pour les États-Unis. Je ne pense pas que le gouvernement des États-Unis ait la moindre influence sur ces gens, à moins qu'il ne cesse leurs activités ou qu'il ne menace de le faire.
    Ce que nous devons faire, c'est d'instaurer une certaine influence, et c'est vraiment le défi qui se pose à ce comité et aux décideurs du monde entier. Vous devez reconnaître que ce à quoi vous avez affaire ici est quelque chose de très important. C'est vraiment nouveau, et ces entreprises n'ont absolument aucune intention de coopérer. Vous n'avez aucune influence sur elles — aucune. Jusqu'à ce que quelqu'un montre qu'il envisage sérieusement d'agir à ce sujet, cela va tout simplement continuer.
    Je vous remercie, monsieur McNamee.
    Nous allons maintenant passer à Singapour et ensuite à l'Estonie.
    Vous avez une dernière question chacun.
    Monsieur McNamee, dans votre livre, vous dites ce qui suit:
Que ce soit intentionnellement ou par accident, les plateformes permettent de diverses façons l'expression d'opinions extrêmes. La facilité avec laquelle des extrémistes qui ont les mêmes idées peuvent se retrouver crée l'illusion d'une légitimité. Protégée de la stigmatisation du monde réel, la communication entre les voix extrêmes sur les plateformes Internet évolue généralement vers un langage plus dangereux.
    Êtes-vous d'accord pour dire que, en offrant un lieu où les contenus extrémistes peuvent s'épanouir et où des gens ayant les mêmes opinions extrêmes peuvent se rassembler, les entreprises de technologie portent une part de responsabilité dans des attaques graves, comme la fusillade de Christchurch?
    La réponse est que je crois qu'elles portent la responsabilité. Encore une fois, pour revenir à la réponse que je vous ai donnée tout à l'heure, il faut également se rappeler ce qui est inhérent à l'architecture d'Internet. Pour moi, la question est la suivante: Y a-t-il moyen de remettre en question l'anonymat et de se demander si l'identité est quelque chose de fondamental? Si vous voulez avoir le droit à la liberté d'expression, devez-vous être honnête à propos de votre identité?
    Je pense que c'est une chose très difficile, et c'est bien au-dessus de mes capacités de répondre à cette question, mais, à mon avis, ce dont les entreprises sont coupables, c'est de l'amplification. C'est leur conception qui amplifie le discours haineux. Ce n'est pas leur conception qui a permis à ces gens de se rassembler. Il est vrai que, dans d'autres contextes, cela leur permet de se rassembler, et dans ce contexte en particulier, le rassemblement a lieu sur des plateformes telles que 8chan et Reddit. C'est un problème très difficile, et, parfois, vous verrez que le fait de se rassembler... Je veux dire, de toute évidence, ce que les Russes ont fait aux États-Unis en 2016 s'est passé sur Facebook et sur Instagram.
    Oui, elles ont des responsabilités, mais, encore une fois, je pense que c'est très difficile à analyser et j'ai hâte de travailler avec vous parce que je ne veux pas prétendre que j'ai une réponse instantanée à cette question.
    Je vous remercie.
    Je vais passer à l'Estonie pour la question suivante.
    Les campagnes de désinformation font vraiment partie de la merveilleuse méthode du voisin de taille de l'Estonie depuis des lustres. La guerre hybride de la Russie existe déjà depuis longtemps. Je dirais que tout ce qui contribue à déstabiliser ou à distraire les sociétés est et sera utilisé. C'est pourquoi j'ai dit auparavant que, même aujourd'hui, si nous avions déjà des règlements pour les partis politiques, pour la façon dont ils utilisent les données, cela ne réglerait pas tous les problèmes. Oui, ce serait certainement nécessaire, et l'Estonie est l'un des pays qui croient fermement que les règles qui s'appliquent hors ligne doivent également s'appliquer en ligne, mais ce n'est pas suffisant si nous disons que c'est seulement le problème des partis politiques, parce que ce n'est pas le cas. C'est beaucoup plus vaste.
    Ma question porterait en fait sur le RGPD. Encore une fois, venant d'Europe, nous avons eu nos propres débats très intenses. Le RGPD est en vigueur depuis un certain temps déjà, et depuis ses débuts, nous avons reçu 95 000 plaintes en matière de protection des données par l'intermédiaire des autorités nationales, ce qui montre un peu la demande à cet égard.
    J'aimerais savoir ce que vous en pensez. Comment voyez-vous la réglementation du RGPD en ce qui concerne la protection des données personnelles?

  (1015)  

    Si vous me le permettez, je pense que le RGPD est un excellent pas en avant. Les éléments de contrôle des données personnelles et les aspects liés à la transférabilité et au consentement, ainsi que le passage à une plus grande intégrité algorithmique, sont de grands pas en avant. À mon avis, c'est très efficace.
    J'estime que tous les membres du Comité devraient réfléchir au fait que, selon moi, en vertu de l'article 8 de la Constitution de l'Union européenne, le RGPD a été rédigé comme un droit de la personne universel, de sorte que, en tant que Canadien, je peux exiger du Canada qu'il contrôle toutes mes données en vertu du droit européen sans quoi il violera la législation européenne. Je pense que la manière dont vous pouvez mettre en place ces diverses structures et divers régimes juridictionnels est un ensemble de possibilités très puissant, et l'Europe montre un modèle pour le monde. Il s'agit d'un cheminement.
    Roger a mis le doigt sur un point extrêmement important, soit que l'on doit prêter attention à la question de l'identité. Habituellement, les gouvernements vous donnaient des pièces d'identité appelées passeport et permis de conduire, et c'est une lacune dans Internet et dans sa conception — et Tim Berners-Lee dirait la même chose. Le gouvernement devrait peut-être reprendre ce rôle et dire qu'il s'occupera de l'identité, et c'est une forme d'investissement vertical de l'État que vous pourriez explorer ici et qui pourrait régler une grande partie du problème de façon très précise.
    Puis-je ajouter quelque chose au sujet du RGPD?
    Je m'inquiète de la prochaine étape. Vous devez élargir ce qu'il couvre. Il s'agit non pas seulement des données que les gens introduisent dans ces systèmes, mais également des données qui sont systématiquement recueillies à leur sujet par acquisition auprès de tiers, par des outils de surveillance comme Alexa et par le suivi sur le Web. Le fait que rien de tout cela ne soit couvert est un énorme problème.
    De toute évidence, il faut avoir une politique d'application de la réglementation qui a du mordant, parce que les amendes sont insignifiantes et les processus prennent beaucoup trop de temps, et rien de tout cela n'a d'effet. Vous pouvez constater que des amendes de plusieurs milliards d'euros n'ont aucun effet sur ces entreprises. Il faut que ce soit des dizaines de milliards d'euros, et ce, tous les mois. Il faut obtenir leur attention. À l'heure actuelle, Facebook veut tout faire passer à la version actuelle du RGPD parce que cela empêche ses concurrents... Le coût est tellement plus élevé pour ses concurrents que c'est un énorme avantage pour lui et cela n'a aucune incidence sur les concepts de capitalisme de surveillance qui l'intéresse.
    Ce que Facebook et Google ont fait de stupide, c'est de ne pas avoir adopté cela dès le départ et de ne pas l'avoir mis en œuvre.
    Je vous remercie.
    Cela nous amène à la fin de la période de questions. Je vais simplement résumer certains des commentaires.
    Madame Zuboff, vous avez mentionné l'expression « modification du comportement ». Madame Ressa, vous avez parlé de « destruction créative ». Monsieur Balsillie, vous avez parlé de miner notre autonomie personnelle.
    Hier soir, parce que je n'avais rien de mieux à faire, je regardais CPAC. Je vous regardais, monsieur McNamee, et vous avez parlé de notre public et de nos utilisateurs et vous avez utilisé un nom particulier. En tant que législateurs, notre défi consiste à établir des liens avec les milléniaux en utilisant des termes que nous pouvons tous facilement comprendre. Vous avez parlé de « poupée vaudou ». J'aimerais que vous terminiez en expliquant ce que c'est de la façon dont vous l'avez expliqué hier soir, parce que je n'aurais pas pu trouver de meilleure façon d'expliquer ce qui arrive à notre génération.

  (1020)  

    Quand les entreprises rassemblent toutes ces données, le but est de créer un avatar haute résolution de chaque être humain. Peu importe que vous utilisiez leurs systèmes ou non. Elles recueillent des données sur absolument tout le monde. Le concept du vaudou dans les Caraïbes consiste essentiellement à créer une poupée, un avatar, dans laquelle on peut enfoncer une épingle pour que la personne ressente cette douleur; l'avatar devient donc littéralement une représentation de l'être humain.
    Mon partenaire, Tristan Harris, a inventé cette notion de poupée vaudou pour décrire ce qui se passe ici; c'est que, d'ici peu, on arrivera à un point où on peut prévoir ce que les gens seront en mesure de faire. En raison de la résolution de la poupée vaudou et compte tenu de toutes les autres poupées vaudou que vous avez, vous pouvez voir ce que les gens ayant des caractéristiques communes ont fait, et cela vous indique ce qu'une personne donnée fera.
    Mme Zuboff souligne le point essentiel selon lequel, au départ, il s'agit d'essayer d'anticiper, mais, au bout du compte, il s'agit en réalité de manipuler le comportement, et la façon de le faire est de contrôler le menu.
    En tant que consommateurs, nous pensons que Google est un intermédiaire honnête, tout comme Facebook, et que les résultats de nos recherches sont honnêtes, mais ce n'est pas le cas. Ils sont fondés sur les données de la poupée vaudou, et, par conséquent, ces entreprises manipulent notre comportement parce qu'elles manipulent les choix qui s'offrent à nous.
    Tout comme une poupée vaudou des Caraïbes, vous n'en êtes pas conscients. Vous savez simplement que vous avez obtenu le résultat sans comprendre la source. Je pense que c'est mal. En tant que décideurs politiques et, personnellement, en tant que personne ayant passé 35 ans à Silicon Valley, nous avons le devoir de défendre nos électeurs.
    Je vous remercie, monsieur McNamee.
    J'aimerais tous vous remercier d'avoir témoigné et remercier Mme Zuboff de l'offre qu'elle nous a faite pour nous aider à y arriver. Nous allons faire appel à vous. Le Comité se terminera demain à midi. Bien entendu, le travail ne sera pas terminé. Nous attendons avec impatience d'obtenir vos opinions dans une chaîne de rétroaction et de vous poser des questions régulièrement afin d'obtenir les réponses dont nous avons besoin.
    Les représentants des plateformes comparaîtront à 10 h 30. C'est dans 10 minutes.
    Merci encore d'avoir comparu devant nous aujourd'hui.
    La séance est levée.
Explorateur de la publication
Explorateur de la publication
ParlVU