Le Podcast Américain « Exponential Perspectives » a Interviewé Fei-Fei Li : Épidémie, Éthique De L'ia Et Formation Des Talents

Fei-Fei Li a récemment participé au podcast « Exponential View » produit par Harvard Business Review. En tant qu'invitée, elle a été interviewée par le spécialiste des médias technologiques Azeem Azhar. Elle a présenté les recherches récentes du laboratoire HAI sur l'IA médicale et a discuté des questions de confidentialité et d'éthique de l'intelligence artificielle.

Fei-Fei Li, professeur d'informatique à l'Université de Stanford, membre de l'Académie nationale d'ingénierie des États-Unis et déesse reconnue dans l'industrie, est récemment apparue dans le podcast « Exponential View ».

Le podcast Exponential View est un podcast sur le thème de la technologie produit conjointement par la personne des médias Azeem Azhar et Harvard Business Review.

La présidente estonienne Kersti Kaljulaid, qui promeut vigoureusement la technologie blockchain dans le pays, le président de Microsoft Brad Smith, la PDG du Nasdaq Adena Friedman et d'autres sont tous des invités récents du podcast.

Fei-Fei Li et le présentateur Azeem Azhar ont eu une discussion approfondie sur la technologie et les applications de l'IA, de la vision de l'IA à l'accent actuel mis sur les soins de santé par l'IA, en passant par les problèmes de confidentialité et d'éthique auxquels est confrontée la technologie de l'IA.

Il y a eu beaucoup d’informations utiles au cours de cette conversation de 30 minutes. Jetons un œil à ce à quoi la déesse de l’IA a pensé récemment et à la façon dont elle perçoit les questions brûlantes de la technologie de l’intelligence artificielle.

Voici la version trop longue :

1. La technologie de l’IA peut aider les personnes âgées à vivre de manière plus indépendante et plus saine, et à détecter les premiers signes d’infection au COVID-19

L’utilisation de la technologie des capteurs intelligents basée sur l’IA peut être efficace pour réduire les taux d’infection et de mortalité du COVID-19 chez les personnes âgées.

À l’aide de capteurs sans contact tels que des capteurs de profondeur et des capteurs thermiques, la température corporelle peut être mesurée et les changements dans les habitudes alimentaires, les habitudes de toilette, les habitudes de sommeil, etc. des personnes âgées peuvent être surveillés, ainsi que la détection précoce de la solitude et de la démence, etc.

2. Lors du développement de la technologie, nous devons également respecter et protéger la vie privée

Chaque étape du développement technologique, en particulier la technologie centrée sur l’humain, doit prendre en compte les questions de confidentialité, de respect et de dignité dans le processus. Même si cela entraînera davantage de difficultés et de défis pour la technologie, nous ne pouvons pas ignorer les nombreux facteurs humanistes.

3. Avant que les élèves n'apprennent le code et les algorithmes, laissez-les d'abord s'intégrer dans la vie

Aux premiers jours du développement de la technologie de l’IA, les experts techniques n’ont pas pris en compte l’impact que le développement rapide de la technologie aurait sur la société humaine d’aujourd’hui.

S'appuyant sur son expérience historique, Fei-Fei Li estime que la technologie et les facteurs humanistes devraient être plus étroitement liés à l'avenir. Par exemple, la conception des cours du Stanford HAI intègre à la fois les sciences et les sciences humaines. Il comprend des cours à contenu purement technique ainsi que les principes de l'IA, la politique des algorithmes et l'éthique.

4. Les valeurs des machines reflètent les valeurs humaines, les humains ont donc des responsabilités morales

Les valeurs d’une machine sont le reflet des valeurs humaines. Le développement et l’application de la technologie dépendent des humains, qui ont donc des responsabilités morales. Les technologues devraient éliminer les préjugés techniques en examinant les problèmes du point de vue de toutes les parties prenantes, et pas seulement du leur.

5. La naissance d'ImageNet : de la bonne méthode et du bon chemin

ImageNet a eu un impact énorme non seulement sur la vision par ordinateur, mais également sur l’ensemble du domaine de l’intelligence artificielle. Fei-Fei Li a déclaré que la naissance d'ImageNet était due à la définition correcte des méthodes et des chemins clés par l'équipe sur la base des recherches existantes à l'époque.

6. L’arrivée de l’AGI (intelligence artificielle forte) est naturelle et favorisera le développement mutuel avec les humains

La demande d’intelligence artificielle forte existe depuis la naissance de l’IA, son arrivée est donc naturelle. Afin d’éviter que l’AGI ne soit limitée par les frontières de l’intelligence humaine, les scientifiques devraient être autorisés à faire des tentatives plus audacieuses, à innover constamment pour dépasser leurs propres limites et à se promouvoir et s’inspirer mutuellement de l’AGI pour parvenir à un développement bidirectionnel.

Nous avons traduit et organisé le contenu de ce podcast. Ce qui suit est la version complète.

  Fei-Fei Li : La pandémie m'a permis d'utiliser l'IA pour aider et protéger les personnes âgées

Azeem Azhar : Bonjour, je m'appelle Azeem Azhar et vous écoutez le podcast Exponential Views.

Le Dr Fei-Fei Li est un chercheur renommé dans le domaine de l’intelligence artificielle. Elle est actuellement la première professeure titulaire de la chaire Sequoia au département d'informatique de l'université de Stanford et codirectrice de l'Institute for Human-Centered Artificial Intelligence (HAI). Elle est surtout connue pour avoir lancé le projet ImageNet.

Je crois qu’ImageNet est l’un des catalyseurs et des forces motrices de l’essor des investissements, de la recherche et de l’application de l’intelligence artificielle au cours des huit dernières années.

Plus tôt cette année, elle a été élue à la National Academy of Engineering, l’une des plus hautes distinctions professionnelles de son domaine. Feifei, je suis heureux de t'avoir ici aujourd'hui. Merci d'avoir pris le temps de venir.

Fei-Fei Li : Merci, c’est tellement excitant. J'aime aussi beaucoup votre émission.

Azem Azhar :Je suis à Londres, où es-tu ? Maintenant, à cause de la quarantaine, nous ne pouvons pas sortir.

Fei-Fei Li : Je suis à l'Université de Stanford. Oui, nous sommes tous confinés et cela me manque vraiment de travailler avec les jeunes tous les jours.

Azem Azhar :Nous savons que vos laboratoires de recherche regorgent de talents autour du machine learning et de l’intelligence artificielle. Certaines de ces compétences semblent très pertinentes pour faire face à la COVID-19 et à certains de ses impacts. Comment votre laboratoire est-il impliqué dans ce projet ?

Fei-Fei Li : En fait, il y a huit ans déjà, nous avons réalisé que la vision par ordinateur et les capteurs et appareils intelligents étaient entrés dans une phase où nous pouvions commencer à résoudre certains problèmes du monde réel, en particulier les problèmes de santé qui m'intéressent beaucoup.

donc,Nous avons expérimenté certaines recherches sur les capteurs sans contact.Essayez de comprendre le comportement humain en relation avec les résultats cliniques.

L’un des principaux domaines qui a retenu notre attention est le vieillissement de la population mondiale.Comment pouvons-nous aider les personnes âgées à vivre une vie plus indépendante et plus saine ?Nos recherches sont donc pertinentes à la fois pour le soutien clinique et familial.

Il s’agit notamment de la mesure de la température, des changements dans les habitudes alimentaires, les habitudes de toilette, les habitudes de sommeil, la détection précoce de la solitude, de la démence, etc.

Ainsi, lorsque l’épidémie de COVID-19 a commencé, j’ai très tôt prêté attention à la question des soins aux personnes âgées. Parce que j’ai deux parents âgés, je m’inquiète aussi pour eux.

D’après les données, nous sommes horrifiés de constater que les personnes qui vivent seules ont une plus grande vulnérabilité et une plus grande mortalité, car non seulement elles sont plus vulnérables du point de vue du système immunitaire, mais elles sont également plus nombreuses à avoir des problèmes de santé sous-jacents compromis parce qu’elles ne peuvent pas se rendre dans une clinique pour consulter un médecin.

Nous nous sommes demandé si nous pouvions accélérer cette technologie et l’amener dans les foyers et les communautés des personnes âgées, afin de pouvoir aider à détecter la COVID-19 à un stade précoce, comme les changements de température corporelle et les signes d’infection.

Azeem Azhar : Pouvez-vous nous dire sur quel type de capteurs vous travaillez ? Quelles données sont nécessaires pour ce travail ?

Fei-Fei Li : Il existe deux types de capteurs que nous utilisons et testons actuellement.

L'un est un capteur de profondeur,Par exemple, lorsque nous jouons à des jeux vidéo XBox, nous utilisons ce capteur. Il n’est pas nécessaire de voir le joueur pour obtenir des informations sur la distance.

L'autre est un capteur thermique,L’étude porte sur les changements de température ou de comportement. Si vous restez assis trop longtemps sur le canapé sans bouger, votre fréquence alimentaire et votre consommation de liquide passeront en mode veille, ce que le capteur pourra détecter.

Le compromis entre le développement technologique et les questions de confidentialité

Azeem Azhar : J'ai vu des projets similaires, par exemple, tout le monde aime les caméras HD, dont la haute résolution permet aux gens de voir des expressions faciales subtiles.

Mais cette technologie haute définition présente un risque d’être invasive et d’être utilisée à mauvais escient. Quels paramètres sont nécessaires dans votre processus de recherche de capteurs ?

Fei-Fei Li : Tout capteur que nous étudions traitera des questions de confidentialité et de respect des êtres humains, et nous travaillons avec des éthiciens et des juristes pour étudier les questions de confidentialité.

En raison de problèmes de confidentialité, les capteurs de profondeur perdent des données et des données d'ombrage de pixels haute fidélité et haute résolution. Alors, comment remédier à ce problème ?

Notre laboratoire mène des recherches en vision par ordinateur qui permettent de comprendre les détails de la posture humaine sans données de caméra haute définition RVB.

Azeem Azhar : Existe-t-il un compromis entre la fidélité et la qualité des données que vous pouvez obtenir et le degré d’atteinte à la vie privée qu’elles représentent ? Est-ce un compromis nécessaire ? S’agit-il d’un système axiomatique de compromis de base ?

Fei-Fei Li : C’est une très bonne question. Je pense qu’il y a toujours de la considération.

Chaque étape de notre développement technologique, en particulier la technologie centrée sur l’humain,La vie privée, le respect et la dignité ne doivent pas être une considération secondaire. Donc, de ce point de vue, nous allons faire des compromis. Si nous ne pouvons pas utiliser certaines informations, cela entraînera de plus grands défis et davantage d’opportunités pour la technologie.

Fei-Fei Li : Mes élèves doivent comprendre à la fois la technologie et le contexte

Azeem Azhar : Vous êtes actuellement au Stanford Institute for Human-Centered Artificial Intelligence (HAI). Pouvez-vous nous dire en quoi, en tant qu’institut de recherche en IA, vous êtes différent de votre équipe précédente ou d’autres institutions d’IA plus traditionnelles ?

Fei-Fei Li : Ce qui m’enthousiasme ici, c’est que dès le début, nous avons l’ambition dans nos gènes.Il s’agit de faire de notre institut (HAI) une véritable institution de recherche et d’enseignement interdisciplinaire.

Nos cofondateurs viennent de domaines variés, notamment l’informatique, la philosophie, l’économie, le droit, l’éthique, la médecine, etc. Il y a vingt ans, lorsque j’étais doctorant, je n’aurais jamais pu rêver que ma propre curiosité deviendrait une force de changement dans les sciences humaines et la société à l’avenir.

Alors, quand j’ai réalisé cela, j’ai personnellement ressenti un énorme sentiment de responsabilité.

Azeem Azhar : Comment expliqueriez-vous certaines des conséquences de la déconnexion qui a toujours existé entre les laboratoires scientifiques et les laboratoires d’ingénierie, en particulier l’informatique, et ce que les humains caractérisent ?

Fei-Fei Li : En parlant de cela, c’est aussi un processus de croissance personnelle. Je me souviens qu’en 2000, alors que j’étais en première année de doctorat à Caltech, le premier article de recherche que j’ai lu était un article révolutionnaire sur la détection des visages.

Mon superviseur a dit que cet article est un excellent article sur l’apprentissage automatique. Il démontre la détection de visage en temps réel à l'aide de puces CPU très lentes.

Avec le recul, lorsque mes mentors et mes camarades de classe ont lu mon article, personne, pas même moi, n’a jamais pensé à son lien avec la vie privée humaine.

Cela montre que ce point n’a pas été pris en compte dès les premières étapes du développement de ces technologies.Mais je n’y ai pas pensé dans le passé. Est-ce mon problème ?Probablement pas.

Nous n’aurions jamais imaginé à quel point l’impact de cette technologie serait important, mais aujourd’hui nous en voyons les conséquences.

Azeem Azhar : Oui, c’est une observation très importante. Cela me rappelle un célèbre discours de CP Snow (scientifique et romancier britannique) en 1959, intitulé « Deux cultures ».

Il a expliqué que l’érudit moyen connaissait Shakespeare mais ne savait rien de la deuxième loi de la thermodynamique. Et les érudits qui connaissent la deuxième loi de la thermodynamique ne savent rien de Shakespeare. Sans connaissances communes, nous ne pouvons pas penser intelligemment.

Aujourd’hui, vous semblez construire un pont entre ces deux cultures.

Fei-Fei Li : Pour moi, c’est une double hélice.Nous pensons que la prochaine génération d’étudiants devrait être « bilingue » – apprenant à la fois la technologie et les sciences humaines.

Une chose qui m’a frappé au cours des dernières années dans la Silicon Valley est que les jeunes technologues m’ont dit qu’ils n’étaient pas formés à ces connaissances.

Ils sont horrifiés lorsqu’ils entendent aux informations, ou même voient, des produits fabriqués par leurs propres entreprises, confrontés à ces problèmes d’impact sur l’humanité. Ils ne savent même pas comment réfléchir à leur rôle pour faire du monde un endroit meilleur.

Azeem Azhar : Donc mon expérience est la suivante :Essayez de ne pas considérer les étudiants comme des chercheurs, mais comme des chefs de produit, des développeurs et des entrepreneurs.

Je voudrais vous présenter quelques cours proposés par HAI, qui sont vraiment très scientifiques. Par exemple, les graphiques de connaissances, les neurosciences théoriques, l’apprentissage automatique et le raisonnement causal. Et puis, d’un autre côté, il y a la politique des algorithmes, l’éthique, les politiques publiques, le changement technologique, la société civile numérique, la conception de l’IA pour favoriser le bien-être humain.

Alors, je suis curieux, quelles sont les manières innovantes dont vous disposez pour combiner ces deux domaines disciplinaires très éloignés ?

Fei-Fei Li : La plupart de mes étudiants sont des étudiants en master et en doctorat avec une formation en informatique. Lorsqu'ils rejoignent notre équipe de soins de santé IA, il n'y a qu'une seule exigence de base :Avant de parler de codes et d’algorithmes, plongeons-nous d’abord dans le quotidien du personnel médical.

Ils doivent entrer dans les unités de soins intensifs, les services, les salles d’opération et même au domicile du personnel médical et des patients pour comprendre le mode de vie de ces personnes et avoir un contact direct avec leurs familles.

Alors, ce n’est qu’un petit exemple. Mais HAI le fait dans tous les aspects.

La technologie est-elle neutre ?

Azeem Azhar : J’entends deux arguments. Certains disent que la technologie est éthiquement neutre, comme une planète en orbite autour d’une étoile.

Mais d’autres disent que la technologie est, dans un certain sens, dépendante du chemin parcouru, évoluant au sein de structures et de contacts particuliers, de préjugés, de privilèges et de perspectives. La technologie n’est donc jamais neutre.

Laquelle de ces deux opinions pensez-vous être la plus correcte ?

Fei-Fei Li : Les étoiles ne sont donc pas créées par les humains, mais par la technologie.

Je crois donc qu’il existe un dicton qui dit :Il n’y a pas de valeur de machine indépendante. La valeur d’une machine est la valeur d’un être humain.Les lois scientifiques ont leur propre logique et leur propre beauté, libres de tout préjugé humain. Cependant, l’invention, l’innovation et l’application de la technologie dépendent fortement des personnes, et nous avons tous cette responsabilité morale.

Azeem Azhar : Par exemple, lorsque vous avez fondé cet institut, vous aviez une formation à Stanford et vous êtes vous-même une personne multiculturelle. Alors, comment voyez-vous Stanford et d’autres milieux ? 

Fei-Fei Li : Je dirais que c’est un sens des responsabilités. Dès les premiers jours de la direction de Stanford, nous avons reconnu l’importance de la responsabilité.

C’est pourquoi HAI bénéficie d’un tel soutien. Parce que nous réalisons clairement queNotre rôle n’est pas seulement d’innover dans le domaine technologique, mais d’utiliser la technologie pour apporter la prospérité à la société humaine., y compris l’art, la musique, les sciences humaines, ainsi que les sciences sociales, la médecine, l’éducation, etc.

ImageNet : révolutionner la reconnaissance d'images

Azeem Azhar : Parlons davantage de votre projet ImageNet. Je pense que cela est essentiel à l’essor actuel des investissements et des applications dans l’intelligence artificielle. ImageNet rappelle aux gens l’importance des données pour le développement de l’IA. Avez-vous déjà pensé que cela pourrait être une influence depuis que vous avez commencé à faire cela en 2006 ?

Fei-Fei Li : Je suis plus enthousiaste à l’idée de terminer le projet ImageNet. Comme la plupart des autres scientifiques, je suis avide de connaissances et curieux de les acquérir, et je ne me concentre pas uniquement sur l’impact que nos idées auront.

Azeem Azhar : C’est incroyable. Essentiellement, vous effectuez beaucoup de travail pour classer les images afin de créer un ensemble de données propre auquel les gens peuvent ensuite appliquer leurs algorithmes.

Dans les années précédant 2012, environ 300 millions de dollars ont été investis chaque année dans des startups d’intelligence artificielle, et ImageNet a eu un impact énorme sur l’environnement entrepreneurial de l’intelligence artificielle.

Fei-Fei Li : Tout d’abord, je suis honoré de recevoir ces compliments et je suis très reconnaissant que vous attribuiez ces réalisations à ImageNet. Je pense que l’histoire et le temps jugeront en fin de compte nos contributions, mais nous sommes vraiment très fiers de ce travail.

Azeem Azhar : Si nous repensons au développement de la technologie de reconnaissance d’images en 2011 et 2012, elle était loin d’être aussi avancée que la reconnaissance d’images que nous avons aujourd’hui. En tant que scientifique dans ce domaine, comment interprétez-vous les changements au fil des années ?

Fei-Fei Li :ImageNet est né de la volonté de révolutionner la reconnaissance d’images.Les idées que nous proposions à l’époque n’étaient pas très différentes de nombreuses découvertes scientifiques. Nous espérions vraiment établir une étoile polaire qui pourrait véritablement promouvoir la recherche sur l’intelligence visuelle, nous permettant de définir comment résoudre la classification d’objets à grande échelle et résoudre ce problème.

Nous avons réussi à trouver cette solution. Bien sûr, nous étions sur les épaules de géants et nous n’avons pas trouvé cette solution par hasard. Cela est dû aux recherches menées en neurosciences cognitives et en vision par ordinateur au cours des trente dernières années.

L'intelligence artificielle générale (AGI) vue par Fei-Fei Li

Azeem Azhar : L’intelligence artificielle générale, ou intelligence artificielle forte, a été beaucoup évoquée récemment par le public et les médias. Que signifie AGI pour vous ?

Fei-Fei Li : Quand j'ai lu pour la première fois « Les machines peuvent-elles penser ? » par Turing, le fondateur de l'intelligence artificielle, le concept d'AGI (intelligence artificielle forte) est en demande depuis le début de l'intelligence artificielle.Je pense donc que la naissance d’une intelligence artificielle forte est naturelle.

Azeem Azhar : Je suis curieux à ce sujet.Quand on pense à l’AGI (intelligence artificielle forte), allons-nous tomber dans le piège de l’anthropocentrisme ?Par exemple, la première est que nous réalisons l’intelligence artificielle grâce à des méthodes d’ingénierie ; la deuxième est que nous poussons les machines à comprendre nos règles, ce qui conduit à la limite de l’intelligence des machines, qui est en fait la limite de l’intelligence humaine.

Fei-Fei Li : Je pense donc que les scientifiques devraient être autorisés à faire des tentatives plus audacieuses. Lorsque Newton observait les étoiles, les humains n’avaient pas encore utilisé l’électricité, mais nous devons respecter tous les efforts réalisés dans le processus historique.

Ce qui m’excite encore plus du point de vue de l’intelligence humaine, c’est queNotre travail intègre l’intelligence artificielle, la science du cerveau et la science cognitive.L’un de nos trois principes à HAI à Stanford est : l’intelligence inspirée par l’humain. Ces évolutions sont également à double sens. Nous progressons dans notre compréhension de la cognition humaine et du cerveau humain, et nous en apprenons également davantage pour améliorer notre développement de l’intelligence artificielle.

Azeem Azhar : Les algorithmes peuvent faire bien plus que les humains, mais nous en sommes encore aux premiers balbutiements. Dans 15, 20 ou 30 ans, où pensez-vous que se situeront les capacités de prise de décision de nos systèmes d’IA ?

Fei-Fei Li : Tout d’abord, la curiosité pour la science est la force motrice qui nous pousse à aller de l’avant pour créer des machines intelligentes innovantes. Si nous voulons rapprocher l’intelligence des machines de l’intelligence humaine, nous-mêmes, en tant qu’êtres humains, avons de l’humanité et pouvons aider les machines à mieux interagir avec les humains. Si les machines peuvent comprendre les humains et penser comme les humains.

Mais encore une fois, ce développement ne peut être sans limites.La façon dont les humains ont toujours innové est de dépasser leurs propres limites.Par exemple, nous ne sommes pas aussi rapides que les voitures ou les calèches, mais nous sommes capables de créer ces outils pour étendre et améliorer nos capacités, voire même les dépasser.

Parfois, l’innovation ne se résume pas à des percées. L’innovation consiste à reproduire des capacités humaines et à résoudre des problèmes en remplaçant le travail humain. Mais quel que soit l’aspect, il doit y avoir des limites à mesure que nous faisons progresser cette technologie.

Azeem Azhar : Merci, Dr Fei-Fei Li, d'avoir pris le temps de participer à notre émission.

-- sur--