アメリカのポッドキャスト番組「Exponential Perspective」が李飛飛にインタビュー：疫病、AI倫理、人材育成

リー・フェイフェイは最近、「ハーバード・ビジネス・レビュー」が制作したポッドキャスト「エクスポネンシャル・ビュー」にゲストとして参加し、テクノロジーメディアの人物であるアジーム・アズハルのインタビューを受け、医療AIに関するHAI研究所の最近の研究を紹介しました。プライバシーと知性の倫理。

スタンフォード大学のコンピューター サイエンスの教授であり、全米工学アカデミーの会員であり、業界で認められた女神であるリー フェイフェイ氏が、最近ポッドキャスト「Exponential View」に出演しました。

ポッドキャスト「Exponential View」は、メディア パーソナリティの Azeem Azhar と「Harvard Business Review」が共同制作したテクノロジーをテーマにしたポッドキャストです。

同国でブロックチェーン技術を精力的に推進しているエストニアのケルスティ・カルジュライド大統領、マイクロソフト社長のブラッド・スミス氏、ナスダックCEOのアデナ・フリードマン氏などがこのポッドキャストの最近のゲストとなっている。

Li Feifei 氏とアンカーの Azeem Azhar 氏は、AI のビジョンから AI 医療に注力する現在のプロセス、AI テクノロジーが直面するプライバシーや道徳的および倫理的な問題に至るまで、AI テクノロジーとそのアプリケーションを中心に、1 つずつ詳細なディスカッションを行いました。

30分間の会話には有益な情報がたくさん含まれていました。 AI の女神が最近何を考えているのか、そして人工知能テクノロジーにおけるホットな問題をどのように見ているのかを見てみましょう。

長すぎて読めないバージョンは次のとおりです。

1. 人工知能テクノロジーは、高齢者がより自立して健康的に生活できるようにし、新型コロナウイルス感染症の兆候を早期に検出するのに役立ちます

AI 駆動のスマート センサー技術を使用すると、高齢者の 新型コロナウイルス感染症と死亡率を効果的に削減できる可能性があります。

深度センサーや温度センサーなどの非接触センサーは、体温の測定、高齢者の食事パターン、トイレパターン、睡眠パターンなどの変化の監視、孤独や認知症の早期発見などに使用できます。

2. テクノロジーが発展する一方で、プライバシーの尊重と保護を考慮する必要があります。

技術開発のあらゆる段階、特に人間中心の技術では、その過程でプライバシー、敬意、尊厳を考慮する必要があります。たとえこれがテクノロジーにさらなる困難と挑戦をもたらすとしても、多くの人文的要因を無視することはできません。

3. コードやアルゴリズムを学ぶ前に、生徒が生活に溶け込めるようにする

AI テクノロジーの開発の初期の頃、技術専門家はテクノロジーの急速な発展が今日の人間社会に与える影響を考慮していませんでした。

歴史的な経験に基づいて、リー・フェイフェイは、将来的にはテクノロジーと人間的要素がもっと結びつくべきだと信じています。たとえば、スタンフォード HAI のカリキュラム設計は、純粋に技術的な内容だけでなく、AI の原理、アルゴリズムの政治学、倫理などのコースも含め、科学と人文科学の両方の内容を統合しています。

4. 機械の価値は人間の価値を反映するため、人間には道徳的責任があります

機械の価値観は人間の価値観を反映しています。テクノロジーの開発と応用は人間に依存しているため、人間には道徳的責任があります。技術者は、自分自身だけでなく、すべての利害関係者の視点から問題を捉えることで、技術的な偏見を排除する必要があります。

5. ImageNet の誕生: 正しいメソッドとパスから

ImageNet は、コンピューター ビジョンだけでなく、人工知能の分野全体にも大きな影響を与えています。 Li Feifei 氏は、ImageNet の誕生は、当時の既存の研究に基づいてチームがメソッドとクリティカル パスを正しく定義したことに起因すると述べました。

6. AGI (高機能人工知能) の登場は自然に起こり、人間とお互いを促進します。

強力な人工知能には、AI の誕生以来この需要があり、その登場は自然なことです。 AGIが人間の知性の限界によって制限されるのを防ぐために、科学者はより大胆な試みをし、絶えず革新して自らの限界を突破し、双方向の発展を達成するためにAGIでお互いを促進し、刺激し合うことができるようにすべきである。

このポッドキャストの内容を翻訳して整理しました。完全版は以下の通りです。

  リー・フェイフェイ: 疫病のせいで、AI を使って高齢者を助け、守るようになりました

アジーム・アズハル: こんにちは、私はアジーム・アズハルです。ポッドキャスト「Exponential Perspectives」を聞いています。

Li Feifei 博士は、人工知能の分野で著名な研究者であり、現在、スタンフォード大学のコンピューターサイエンス学部の初代 Sequoia 教授であり、人間中心人工知能研究所 (HAI) の共同所長を務めています。彼女は ImageNet プロジェクトを開始したことで最もよく知られています。

ImageNet は、過去 8 年間にわたる人工知能への投資研究と応用のブームを促進した触媒および原動力の 1 つであると私は信じています。

今年初めに、彼女はその分野で最も高い専門的栄誉の一つである全米工学アカデミーの会員に選出されました。フェイフェイ、今日はここに来られてうれしいです、お時間を割いていただきありがとうございます。

リー・フェイフェイ: ありがとう、私もあなたのプログラムがとても好きです。

アジーム・アズハル:私はロンドンにいるのですが、どこにいますか？今は検疫のせいで外出できません。

リー・フェイフェイ: 私はスタンフォード大学にいます。はい、私たちは皆「ロックダウン」状態にあり、毎日若者たちと仕事をするのが本当に恋しいです。

アジーム・アズハル:私たちは、貴社の研究室が機械学習と人工知能の人材を重視していることを知っています。これらのスキルの一部は、病気としての新型コロナウイルス感染症とそれが及ぼした影響の一部に対処するのに非常に関連していると思われます。あなたの研究室はどのように関わっていますか?

Li Feifei: 実際、すでに 8 年前、私たちはコンピュータ ビジョンとスマート センサーと機器が現実世界の問題、特に私が非常に興味を持っている医療問題を解決し始めることができる段階に入っていることに気づいていました。で。

したがって、私たちは非接触センサーに関するいくつかの研究を実験してきました。臨床結果に関連した人間の行動を理解しようと努めてください。

私たちの注目を集めている主な分野の 1 つは、世界人口の高齢化です。高齢者がより自立して健康的に生活できるようにするにはどうすればよいでしょうか?したがって、私たちの研究は臨床支援と家族支援の両方に関連しています。

具体的には、体温測定、食事パターン、トイレパターン、睡眠パターンの変化、孤独感や認知症の早期発見などが挙げられます。

そのため、新型コロナウイルス感染症のパンデミックが発生したとき、私は早い段階で高齢者の介護の問題に気づきました。私には高齢の両親が二人いるので、両親のことも心配です。

統計から、一人暮らしの人は免疫システムの観点からより脆弱であるだけでなく、より多くの人々が基本的な健康状態に影響を受けているため、一人暮らしの人々の脆弱性と死亡率がより高いことを見て愕然とします。医者に診てもらうために診療所に行きます。

私たちは、このテクノロジーを加速して高齢者の家庭や地域社会に導入して、体温の変化や感染の兆候など、新型コロナウイルス感染症を早期に検出できるようにできないかと考えました。

アジーム・アズハル: それで、どのような種類のセンサーに取り組んでいるのか教えていただけますか?この作業にはどのようなデータが必要ですか?

Li Feifei: 私たちが現在使用および試験運用しているセンサーは 2 種類あります。

1つは深度センサーで、たとえば、このセンサーは XBox ビデオ ゲームをプレイするときに使用されます。距離情報を取得するためにプレーヤーを見る必要はありません。

もう一つは温度センサーで、温度変化や挙動が研究されます。運動せずにソファに長時間座っていると、食事の頻度と水分摂取量が睡眠モードに入り、それをセンサーが検出できます。

テクノロジーの発展とプライバシーへの懸念とのトレードオフ

アジーム・アズハル氏: 同様のプロジェクトを見てきました。たとえば、高解像度のカメラを好む人々は、人々の微妙な表情を見ることができます。

ただし、この高解像度テクノロジーが利用可能になると、侵入的で悪用される可能性があります。センサーの研究にはどのようなパラメータが必要ですか?

Li Feifei: 私たちが研究するセンサーはプライバシーの問題と人間の尊重に対処するものであり、倫理学者や法学者と協力してプライバシーの問題を研究しています。

プライバシー上の懸念により、深度センサーはデータと高忠実度、高解像度のピクセル シェーディング データを失います。では、この問題をどのように解決すればよいでしょうか?

私たちの研究室では、RGB高精細カメラデータがなくても人間の姿勢を詳細に理解できるコンピュータビジョンの研究を行っています。

Azeem Azhar: 取得できるデータの忠実性と品質と、プライバシーの侵害の度合いの間にはトレードオフの関係はありますか?これは必要なトレードオフですか?それは基本的に公理的なトレードオフのシステムなのでしょうか?

リー・フェイフェイ: とても良い質問ですね。常に検討事項があると思います。

私たちの技術開発、特に人間中心の技術開発のあらゆる段階で、プライバシー、敬意、尊厳を後回しにしてはいけません。したがって、この観点から、妥協することになります。特定の情報を使用できない場合、テクノロジーにとってより大きな課題とより大きなチャンスが生まれます。

Li Feifei: 私の生徒はテクノロジーとシナリオの両方を理解する必要があります。

アジーム・アズハル: あなたは現在、スタンフォード人間中心人工知能研究所 (HAI) で働いていますが、人工知能の研究機関として、以前働いていたチームや他の伝統的な人工知能とどのように違うのか教えていただけますか。機関？

リー・フェイフェイ: ここで私を興奮させたのは、野心は最初から私たちの遺伝子に組み込まれているということです。それは、当研究所（HAI）を真の学際的な研究教育機関とすることです。

当社の共同創設者は、コンピューター サイエンス、哲学、経済学、法律、倫理、医学など、さまざまな分野の出身者です。 20年前、私が博士課程の学生だった頃は、自分自身の好奇心が将来人文科学や社会を変える力になるとは夢にも思っていませんでした。

そのことに気づいたとき、私は大きな責任を感じました。

アジーム・アズハル: 科学研究室と工学研究室、特にコンピューターサイエンスの間には断絶がありましたが、その断絶がもたらす結果の一部をどのように説明しますか?

リー・フェイフェイ：そういえば、これは私の成長の過程でもあります。 2000 年、私がカリフォルニア工科大学の博士課程 1 年生だったとき、初めて読んだ研究論文が顔検出に関する画期的な論文だったことを覚えています。

私の上司は、この論文は非常に優れた機械学習の論文だと言いました。非常に遅い CPU チップを使用したリアルタイムの顔検出を示します。

今思い返してみると、私の指導教官やクラスメートが論文を読み終えたとき、これが人間のプライバシーとどのような関係があるのか、私自身も含めて誰も考えませんでした。

これは、これらのテクノロジーの開発の初期段階ではこれが考慮されていなかったことを示しています。でも、昔は考えもしなかったのですが、それは私の問題でしょうか？おそらくそうではありません。

このテクノロジーがこれほどの影響を与えるとは夢にも思っていませんでしたが、今日私たちはその結果を目の当たりにしています。

アジーム・アズハル: はい、これは非常に重要な観察です。これは、1959年にCPスノー（イギリスの科学者で小説家）が行った「二つの文化」という有名なスピーチを思い出させます。

彼は、普通の学者がシェイクスピアのことは知っていても、熱力学の第二法則については何も知らなかったことを説きました。そして、第二法則や熱力学を知っている学者は、シェイクスピアについては何も知りません。共通の知識がなければ、私たちは知恵を持って考えることができません。

現在、あなたはこれら 2 つの文化の間に橋を架けようとしているようですね。

リー・フェイフェイ：私にとって、これは二重らせんです。私たちは、次世代の学生は技術面と人文面の両方の分野を学ぶ「バイリンガル」であるべきだと信じています。

ここ数年、シリコンバレーで私が印象に残ったことの一つは、若い技術者たちが、自分たちはこの知識について教育を受けていないと言うことです。

彼らは現在、人間に影響を与えるこれらの問題を扱っているニュースを聞いたり、自分の会社が製造した製品を見ると、恐怖を感じます。彼らは自分の役割が何か、世界をより良い場所にする方法について考えることさえ知りません。

アジーム・アズハル: 私の経験では、学生を研究者としてではなく、プロダクト マネージャー、開発者、起業家として考えるようにしてください。

HAI の非常に科学的なコースをいくつか紹介したいと思います。ナレッジグラフ、理論的神経科学、機械学習、因果推論など。そしてもう一方では、アルゴリズム、倫理、公共政策、技術変化、デジタル市民社会、人間の幸福を促進するための人工知能の設計などの政治があります。

それで、興味があるのですが、これら 2 つのまったく異なる主題分野を組み合わせるために、どのような革新的な方法を思いついたのでしょうか?

Li Feifei: 私の学生のほとんどは、コンピュータ サイエンスの背景を持つ修士課程および博士課程の学生です。彼らが AI ヘルスケア チームに参加する際の基本的な要件は 1 つだけです。コードとアルゴリズムについて議論する前に、それを医療スタッフの日常生活に組み込んでみましょう。

彼らは、これらの人々のライフスタイルを理解し、家族と直接接触するために、ICU、病棟、手術室、さらには医療スタッフや患者の自宅に立ち入る必要があります。

したがって、これはほんの小さな例にすぎません。しかし、HAI はあらゆる面でこれを行っています。

テクノロジーは中立ですか?

アジーム・アズハル: テクノロジーは倫理的に中立であり、恒星の周りを回る惑星のようなものだと言う人もいます。

しかし、テクノロジーはある意味で経路に依存しており、特定の構造やエクスポージャ、バイアス、特権、視点の中で進化しているという人もいます。したがって、テクノロジーは決して中立ではありません。

これら 2 つの見解のうち、どちらがより正しいと思いますか?

リー・フェイフェイ: つまり、星は人間によって作られたものではなく、テクノロジーによって作られたということですね。

そこで私は次のような格言があると信じています。独立したマシン値はありません。機械の価値は人間の価値です。科学法則には、人間の偏見を持たない独自の論理と美しさがあります。しかし、テクノロジーの発明、革新、応用は人間に大きく依存しており、私たち全員がこの道徳的責任を負っています。

アジーム・アズハル: たとえば、あなたはこの研究所を設立したとき、スタンフォード出身でしたが、あなた自身も多文化の人間です。では、スタンフォードなどの背景についてどう思いますか? 

李菲菲：やはり責任感だと言いたいです。スタンフォード大学の指導者の初期の頃から、私たちは説明責任の重要性を認識してきました。

だからこそHAIは多くの支持を得ているのです。私たちはそれをはっきりと認識しているので、私たちの役割は、単にテクノロジーを革新することではなく、テクノロジーを活用して人類社会に豊かさをもたらすことです。、芸術、音楽、人文科学だけでなく、社会科学、医学、教育なども含まれます。

ImageNet: 画像認識に革命を起こす

Azeem Azhar: あなたのプロジェクト ImageNet について話しましょう。現在の人工知能への投資と応用のブームにおいて、これは非常に重要だと思います。 ImageNet は、AI の開発におけるデータの重要性を人々に思い出させます。 2006 年にこの活動を始めたときに、これが影響しているかもしれないと考えたことはありますか?

Li Feifei: ImageNet プロジェクトを完了するプロセスは、他のほとんどの科学者と同様に、私が提案するアイデアの影響だけに焦点を当てるのではなく、知識への探求と好奇心を持っています。

アジーム・アズハル: すごいですね。基本的に、画像を分類してアルゴリズムを適用できるクリーンなデータセットを作成するという多くの重労働を実行します。

2012 年までは、毎年約 3 億米ドルが人工知能スタートアップに投資されており、ImageNet は人工知能スタートアップ環境に大きな影響を与えました。

Li Feifei: まず最初に、このような賞賛をいただいて非常に恥ずかしく思います。ImageNet にこのようなクレジットを与えていただいたことに感謝します。最終的には歴史と時間が私たちの貢献を評価することになると思いますが、私たちはこれらの作品を本当に誇りに思っています。

アジーム・アズハル氏: 2011 年と 2012 年の画像認識テクノロジーの開発を振り返ると、今日の画像認識ほど強力なものではありませんでした。さて、この分野の科学者として、長年にわたる変化をどう解釈しますか?

リー・フェイフェイ：ImageNet は、「画像認識を完全に変革したい」という願いから生まれました。当時私たちが提案したアイデアは、多くの科学的発見とそれほど変わりませんでした。私たちは、視覚知能研究を真に推進し、大規模な物体分類を解決する方法を定義し、この問題を解決できる北極星を確立することを強く望んでいました。 。

もちろん、私たちは巨人の肩の上に立っているので、この方法を突然思いついたわけではありません。それはまさに、過去 30 年間にわたる認知神経科学研究とコンピューター ビジョン研究のおかげです。

リー・フェイフェイの目に映る汎用人工知能 (AGI)

アジーム・アズハル: 一般の人工知能、または強力な人工知能について、最近よく話題になりますが、あなたにとって AGI とは何ですか?

李飛飛：人工知能の創始者であるチューリングの『機械は考えることができるか』を初めて読んだとき、AGIの強力な人工知能という概念は人工知能の誕生以来求められてきたものでした。だから強い人工知能が生まれるのは自然なことだと思います。

アジーム・アズハル: 私が興味があるのは、AGI について考えるとき、私たちは人間中心主義の罠に陥るのでしょうか?たとえば、1 つ目は、エンジニアリングによって人工知能を実現するというものであり、2 つ目は、機械にルールを理解させることで、機械の知能の境界が実際には人間の知能の境界になるというものです。

リー・フェイフェイ: ですから、科学者はもっと大胆な試みをすることが許されるべきだと思います。ニュートンが星を観察していた頃、人類はまだ電気を使用していませんでしたが、私たちは歴史の過程におけるあらゆる努力を尊重しなければなりません。

人間の知性の観点から見ると、私がさらに興奮するのは、私たちの仕事は、人工知能、脳科学、認知科学を結び付けています。スタンフォード大学の HAI の 3 つの主要原則の 1 つは、「人間を通じて知性を刺激する」です。これらの開発は双方向でもあり、私たちは人間の認知と人間の脳についての理解を進め、人工知能の開発を改善するためにそこからさらに多くのことを学びます。

アジーム・アズハル: アルゴリズムは人間よりもはるかに多くのことを行うことができますが、まだ初期の段階です。 15 年、20 年、30 年後を見据えたとき、人工知能システムの意思決定能力はどうなると思いますか?

Li Feifei: まず第一に、科学的好奇心は、革新的なインテリジェントマシンの開発を促進し続けるための私たちの原動力です。機械の知能を人間の知能に近づけたいのであれば、私たち人間には人間性があり、機械が人間とより良く対話できるよう支援することができます。機械が人間を理解し、人間と同じように考えることができたら。

しかし、繰り返しになりますが、この発展には境界がないわけにはいきません。人間が常に革新してきた方法は、自分自身の限界を突破することです。たとえば、私たちは速く走れる車や馬車を持っていませんが、これらのツールを作成して能力を拡張および強化し、さらには能力を超えることはできます。

イノベーションは、単に画期的な進歩を意味するものではありません。人間の能力を再現し、人間の力を置き換えることによって問題を解決することもあります。しかし、どの側面であっても、このテクノロジーを進歩させるには境界が存在する必要があります。

アジーム・アズハル: フェイフェイ・リー博士、私たちの番組に時間を割いていただきありがとうございます。

- 以上 -