미국 팟캐스트 "Exponential Perspectives"에서 Fei-Fei Li를 인터뷰했습니다. 전염병, AI 윤리 및 인재 교육

페이페이 리는 최근 하버드 비즈니스 리뷰가 제작한 팟캐스트 "Exponential View"에 참여했습니다. 그녀는 게스트로 기술 미디어인 아짐 아자르의 인터뷰를 받았습니다. 그녀는 HAI 연구실의 최근 의료 AI 연구를 소개하고 인공지능의 개인정보 보호와 윤리적 문제에 대해 논의했습니다.

스탠포드 대학의 컴퓨터 과학 교수이자, 미국 공학 아카데미 회원이며, 업계에서 인정받는 여신인 페이페이 리(Fei-Fei Li)가 최근 "Exponential View" 팟캐스트에 출연했습니다.

Exponential View 팟캐스트는 미디어인 아짐 아자르와 하버드 비즈니스 리뷰가 공동으로 제작한 기술을 주제로 한 팟캐스트입니다.

최근 이 팟캐스트에 출연한 사람으로는 에스토니아의 케르스티 칼유라이드 대통령, 마이크로소프트의 브래드 스미스 사장, 나스닥의 아데나 프리드먼 CEO 등이 있습니다. 그는 국내에서 블록체인 기술을 적극적으로 홍보해 왔습니다.

페이페이 리와 앵커 아짐 아자르는 AI 기술과 응용 분야에 대해 심도 있는 토론을 벌였습니다. AI 비전부터 AI 헬스케어에 대한 현재 초점, AI 기술이 직면한 개인정보 보호 및 윤리적 문제까지 다루었습니다.

30분간의 대화에서 많은 유용한 정보가 나왔습니다. AI 여신이 최근 어떤 생각을 하고 있는지, 인공지능 기술의 뜨거운 이슈를 어떻게 바라보는지 살펴보자.

너무 긴 버전은 다음과 같습니다.

1. AI 기술은 노인들이 보다 독립적이고 건강하게 생활할 수 있도록 돕고, 코로나19 감염의 조기 징후를 감지할 수 있습니다.

AI 기반 스마트 센서 기술을 사용하면 노인의 COVID-19 감염률과 사망률을 낮추는 데 효과적일 수 있습니다.

깊이 센서, 열 센서 등 비접촉 센서를 활용해 체온을 측정하고, 노인의 식습관, 배변 패턴, 수면 패턴 등의 변화를 모니터링하며, 외로움, 치매 등의 조기 발견도 가능합니다.

2. 기술을 개발할 때 개인 정보도 존중하고 보호해야 합니다.

기술 개발의 모든 단계, 특히 인간 중심 기술은 그 과정에서 개인정보 보호, 존중, 존엄성 문제를 고려해야 합니다. 이것이 기술적으로 더 큰 어려움과 과제를 가져올지라도, 우리는 많은 인간적인 요소를 무시할 수 없습니다.

3. 학생들이 코드와 알고리즘을 배우기 전에 먼저 삶에 적응하도록 하세요.

AI 기술 개발의 초창기에는 기술 전문가들은 기술의 급속한 발전이 오늘날 인간 사회에 미칠 영향을 고려하지 않았습니다.

페이페이 리는 역사적 경험을 바탕으로 미래에는 기술과 인문학적 요소가 더욱 긴밀하게 결합될 것이라고 믿습니다. 예를 들어, 스탠포드 HAI의 과정 설계는 과학과 인문학을 모두 통합했습니다. 순수한 기술적 내용은 물론 AI 원리, 알고리즘 정치, 윤리에 대한 과목도 포함됩니다.

4. 기계의 가치는 인간의 가치를 반영하므로 인간에게는 도덕적 책임이 있습니다.

기계의 가치는 인간의 가치를 반영합니다. 기술의 발전과 응용은 인간에 달려 있으므로 인간에게는 도덕적 책임이 있습니다. 기술자는 자신의 관점만이 아니라 모든 이해관계자의 관점에서 문제를 살펴봄으로써 기술적 편견을 없애야 합니다.

5. ImageNet의 탄생: 올바른 방법과 경로에서

ImageNet은 컴퓨터 비전뿐만 아니라 인공지능 분야 전체에 큰 영향을 미쳤습니다. 페이페이 리(Fei-Fei Li)는 ImageNet의 탄생은 당시의 기존 연구를 바탕으로 팀이 방법과 주요 경로를 정확하게 정의했기 때문이라고 말했습니다.

6. AGI(강력인공지능)의 등장은 자연스러운 현상이며 인간과의 상호 발전을 촉진할 것이다.

강력한 인공지능에 대한 수요는 AI가 탄생한 이래로 늘 존재해 왔기 때문에 인공지능의 등장은 자연스러운 일입니다. AGI가 인간 지능의 한계에 의해 제한되는 것을 막기 위해, 과학자들은 더 과감한 시도를 하고, 끊임없이 혁신하여 자신의 한계를 돌파해야 하며, AGI를 통해 서로를 촉진하고 영감을 주어 양방향 개발을 달성해야 합니다.

우리는 이 팟캐스트의 내용을 번역하고 정리했습니다. 전체 버전은 다음과 같습니다.

  페이페이 리: 팬데믹으로 인해 AI를 활용해 노인들을 돕고 보호할 수 있게 됐습니다.

아짐 아자르: 안녕하세요, 저는 아짐 아자르입니다. 여러분은 Exponential Views 팟캐스트를 듣고 계십니다.

페이페이 리 박사는 인공지능 분야의 유명한 연구자입니다. 그녀는 현재 스탠포드 대학 컴퓨터 과학과의 첫 번째 세쿼이아 석좌교수이며, 인간 중심 인공지능 연구소(HAI)의 공동 소장입니다. 그녀는 ImageNet 프로젝트를 시작한 것으로 가장 잘 알려져 있습니다.

저는 ImageNet이 지난 8년간 인공지능에 대한 투자, 연구, 응용 분야의 붐을 일으킨 촉매이자 원동력 중 하나라고 믿습니다.

올해 초, 그녀는 해당 분야에서 가장 높은 전문가 영예 중 하나인 미국 공학 아카데미 회원으로 선출되었습니다. 페이페이, 오늘 당신이 이 자리에 와주셔서 기쁩니다. 시간을 내주셔서 감사합니다.

페이페이 리: 고맙습니다. 정말 신나요. 저도 당신의 쇼를 정말 좋아해요.

아짐 아자르:저는 런던에 있어요. 당신은 어디에 계시나요? 지금은 격리 때문에 외출할 수 없습니다.

페이페이 리: 저는 스탠포드 대학에 있어요. 네, 우리 모두 봉쇄되어 있고 매일 젊은이들과 함께 일하는 것이 정말 그리워요.

아짐 아자르:우리는 여러분의 연구실이 머신 러닝과 인공 지능 분야의 인재로 가득하다는 것을 알고 있습니다. 이러한 기술 중 일부는 COVID-19와 이로 인한 일부 영향에 대처하는 데 매우 적합한 것으로 보입니다. 귀하의 연구실은 이 문제에 어떻게 참여하고 있나요?

페이페이 리: 사실, 8년 전만 해도 우리는 컴퓨터 비전과 스마트 센서 및 장치가 실제 문제, 특히 제가 매우 관심을 갖고 있는 건강 관리 문제를 해결할 수 있는 단계에 들어섰다는 것을 깨달았습니다.

그러므로,우리는 비접촉 센서에 대한 연구를 실험해 왔습니다.임상적 결과와 관련된 인간의 행동을 이해하려고 노력하세요.

우리의 관심을 끈 주요 분야 중 하나는 세계 인구의 고령화입니다.어떻게 하면 노인들이 더욱 독립적이고 건강한 삶을 살 수 있도록 도울 수 있을까요?그래서 우리의 연구는 임상적 지원과 가족적 지원 모두에 관련이 있습니다.

구체적으로는 체온 측정, 식습관 변화, 배변 패턴, 수면 패턴, 외로움 조기 감지, 치매 등이 포함됩니다.

그래서 코로나19 사태가 시작되었을 때 저는 아주 일찍부터 노인 돌봄 문제에 주의를 기울였습니다. 저는 부모님 두 분 다 나이가 많으시기 때문에 부모님들이 걱정됩니다.

데이터를 보면 혼자 사는 사람들은 취약성과 사망률이 더 높다는 사실에 충격을 받습니다. 왜냐하면 그들은 면역 체계 측면에서 더 취약할 뿐만 아니라, 병원에 가서 의사를 만날 수 없어 기저 건강 상태가 좋지 않은 경우가 많기 때문입니다.

우리는 이 기술을 가속화하여 노인들의 집과 지역 사회에 도입하여 체온 변화와 감염 징후 등을 통해 COVID-19를 조기에 감지하는 데 도움을 줄 수 있을지 궁금했습니다.

아짐 아자르: 그럼 어떤 종류의 센서를 연구하고 계신지 말씀해 주시겠습니까? 이 작업에 어떤 데이터가 필요합니까?

페이페이 리: 현재 우리가 사용하고 조종하고 있는 센서는 두 가지 유형이 있습니다.

하나는 깊이 센서이고,예를 들어, Xbox 비디오 게임을 할 때 이 센서를 사용합니다. 거리 정보를 얻기 위해 플레이어를 볼 필요는 없습니다.

다른 하나는 열 센서입니다.이 연구는 온도 변화나 행동에 관한 것입니다. 너무 오랫동안 움직이지 않고 소파에 앉아 있으면 식사 빈도와 수분 섭취량이 수면 모드로 전환되는데, 센서가 이를 감지할 수 있습니다.

기술 개발과 개인정보 보호 문제 간의 균형

아짐 아자르: 비슷한 프로젝트를 봤습니다. 예를 들어, 모두가 HD 카메라를 좋아하는데, 고해상도 덕분에 사람들이 미묘한 표정을 볼 수 있거든요.

하지만 이러한 고화질 기술은 침습적일 가능성이 있으며 오용될 수도 있습니다. 센서 연구 과정에는 어떤 매개변수가 필요합니까?

페이페이 리: 우리가 연구하는 모든 센서는 개인정보 보호 문제와 인간에 대한 존중을 다룰 것이며, 우리는 윤리학자와 법학자들과 협력하여 개인정보 보호 문제를 연구하고 있습니다.

개인정보 보호 문제로 인해 깊이 센서는 데이터를 잃고, 고품질, 고해상도 픽셀 셰이딩 데이터도 잃게 됩니다. 그러면 이 문제를 어떻게 해결할 수 있을까?

저희 연구실에서는 RGB 고화질 카메라 데이터 없이도 인간의 자세에 대한 세부 사항을 이해할 수 있는 컴퓨터 비전 연구를 진행하고 있습니다.

아짐 아자르: 얻을 수 있는 데이터의 충실성과 품질과 개인정보 침해 정도 사이에 상충관계가 있습니까? 이것이 필수적인 균형인가? 이는 기본적인 공리적 상충 체계인가요?

페이페이 리: 아주 좋은 질문이네요. 저는 항상 배려가 있다고 생각합니다.

특히 인간 중심 기술을 포함한 우리의 기술 발전의 모든 단계는사생활, 존중, 존엄성은 나중에 생각해서는 안 됩니다. 그러니 그 관점에서 우리는 타협을 해야겠습니다. 우리가 특정 정보를 활용할 수 없다면 기술에는 더 큰 과제와 더 많은 기회가 찾아올 것입니다.

페이페이 리: 제 학생들은 기술과 맥락을 모두 이해해야 합니다.

아짐 아자르: 현재 스탠포드 인간 중심 인공지능 연구소(HAI)에 계시죠. AI 연구 기관으로서 이전 팀이나 다른 전통적인 AI 기관과 어떻게 다른지 말씀해 주시겠습니까?

페이페이 리: 제가 여기서 가장 흥분되는 점은 처음부터 우리 유전자에 야망이 담겨 있다는 것입니다.우리 연구소(HAI)를 진정한 학제간 연구 및 교육 기관으로 만드는 것입니다.

저희 공동 창업자들은 컴퓨터 과학, 철학, 경제학, 법학, 윤리학, 의학 등 다양한 분야에서 활동하고 있습니다. 20년 전, 제가 박사과정 학생이었을 때는 제 호기심이 미래에 인문학과 사회에 변화를 가져올 원동력이 될 것이라고는 꿈에도 생각하지 못했습니다.

그래서 그걸 깨달았을 때, 저는 개인적으로 엄청난 책임감을 느꼈습니다.

아짐 아자르: 과학 연구실과 공학 연구실, 특히 컴퓨터 과학과 인간의 특성 사이에 항상 존재해 온 단절이 초래한 결과를 어떻게 설명하시겠습니까?

페이페이 리: 그런데 이건 제 개인적인 성장 과정이기도 합니다. 2000년, 제가 캘리포니아 공과대학에서 박사과정 1학년을 다닐 때, 제가 읽은 첫 번째 연구 논문이 얼굴 인식에 관한 획기적인 논문이었던 걸 기억합니다.

제 지도교수님께서는 이 논문이 훌륭한 머신러닝 논문이라고 말씀하셨습니다. 매우 느린 CPU 칩을 사용하여 실시간으로 얼굴을 감지하는 방법을 보여줍니다.

지금 돌이켜보면, 멘토와 반 친구들이 제 논문을 읽었을 때, 아무도, 심지어 저 자신도 그것이 인간의 사생활과 어떻게 연관되는지 고려하지 않았습니다.

이는 이러한 기술 개발의 초기 단계에서는 이러한 점이 고려되지 않았음을 보여줍니다.하지만 저는 과거에는 그것에 대해 생각하지 않았습니다. 내 문제인가요?아마도 그렇지 않을 겁니다.

우리는 이 기술이 이렇게 큰 영향을 미칠 줄은 꿈에도 생각지 못했지만, 오늘날 우리는 그 결과를 보고 있습니다.

아짐 아자르: 네, 매우 중요한 관찰입니다. 이건 CP 스노우(영국 과학자이자 소설가)가 1959년에 한 "두 문화"라는 유명한 연설을 떠올리게 합니다.

그는 일반 학자가 셰익스피어에 대해서는 알고 있지만 열역학 제2법칙에 대해서는 전혀 모른다고 말했습니다. 그리고 제2법칙이나 열역학을 아는 학자들은 셰익스피어에 대해서는 아무것도 모릅니다. 공통된 지식이 없다면 우리는 지적으로 생각할 수 없습니다.

오늘은 두 문화 사이에 다리를 놓는 것 같네요.

페이페이 리: 저는 이게 이중나선 구조라고 생각해요.우리는 차세대 학생들이 기술과 인문학을 모두 배우는 '이중 언어 구사자'가 되어야 한다고 믿습니다.

지난 몇 년 동안 실리콘 밸리에서 제가 느낀 점 중 하나는 젊은 기술자들이 이런 지식에 대한 교육을 받지 못한다고 말했다는 것입니다.

요즘은 뉴스에서 이런 문제가 인류에 미치는 영향을 보고, 심지어 자기 회사가 만든 제품이 이런 문제에 직면한 것을 보면 큰 충격을 받습니다. 그들은 세상을 더 나은 곳으로 만들기 위한 자신의 역할에 대해 생각하는 방법조차 모릅니다.

Azeem Azhar: 그래서 제 경험은 다음과 같습니다.학생들을 연구자로 생각하지 말고, 제품 관리자, 개발자, 기업가로 생각해 보세요.

저는 여러분께 HAI가 제공하는 몇 가지 과정을 소개하고 싶습니다. 이 과정들은 정말 과학적입니다. 예를 들어, 지식 그래프, 이론 신경 과학, 머신 러닝, 인과 추론 등이 있습니다. 그리고 다른 한편으로는 알고리즘, 윤리, 공공 정책, 기술 변화, 디지털 시민 사회, 인간의 복지를 증진하기 위한 AI 설계에 대한 정치가 있습니다.

그럼, 저는 궁금합니다. 이 두 가지 매우 관련 없는 학문 분야를 결합할 수 있는 혁신적인 방법은 무엇일까요?

페이페이 리: 제 학생 대부분은 컴퓨터 과학 분야를 전공한 석사, 박사 과정 학생입니다. 그들이 우리의 AI 헬스케어 팀에 합류할 때, 기본 요구 사항은 단 하나뿐입니다.코드와 알고리즘에 대해 논의하기에 앞서, 먼저 의료진의 일상 생활에 대해 살펴보겠습니다.

그들은 이 사람들의 생활 방식을 이해하고 그 가족과 직접 만나기 위해 중환자실, 병동, 수술실, 심지어 의료진/환자의 집까지 들어가야 합니다.

글쎄요, 이건 단지 작은 예일 뿐이에요. 하지만 HAI는 모든 면에서 이를 실천하고 있습니다.

기술은 중립적입니까?

아짐 아자르: 두 가지 주장이 있습니다. 어떤 사람들은 기술이 마치 별을 공전하는 행성과 마찬가지로 윤리적으로 중립적이라고 말합니다.

하지만 어떤 사람들은 기술이 어떤 의미에서는 경로 의존적이며 특정 구조와 접촉, 편견, 특권, 관점 내에서 진화한다고 말합니다. 그러므로 기술은 결코 중립적이지 않습니다.

이 두 가지 견해 중 어느 것이 더 옳다고 생각하시나요?

페이페이 리: 그러니까 별은 인간이 만드는 게 아니라 기술이 만드는 거군요.

그래서 저는 이런 속담이 있다고 믿습니다.독립적인 기계 가치는 없습니다. 기계의 가치는 인간의 가치입니다.과학적 법칙은 인간의 편견으로부터 자유로우며, 고유한 논리와 아름다움을 가지고 있습니다. 하지만 기술의 발명, 혁신, 그리고 응용은 사람에게 크게 달려 있으며, 우리 모두에게는 이러한 도덕적 책임이 있습니다.

아짐 아자르: 예를 들어, 당신이 이 연구소를 설립했을 때, 당신은 스탠포드 출신이었고 당신 자신도 다문화인이었습니다. 그러면 스탠퍼드와 다른 배경을 어떻게 보시나요? 

리페이페이: 저는 책임감이라고 말하고 싶습니다. 스탠포드 리더십의 초창기부터 우리는 책임의 중요성을 인식해 왔습니다.

그래서 HAI는 많은 지원을 받고 있어요. 우리는 그것을 분명히 깨닫고 있기 때문에우리의 역할은 단순히 기술을 혁신하는 것이 아니라, 기술을 사용하여 인간 사회에 번영을 가져오는 것입니다.예술, 음악, 인문학, 사회과학, 의학, 교육 등을 포함합니다.

ImageNet: 이미지 인식의 혁신

아짐 아자르: ImageNet 프로젝트에 대해 더 자세히 말씀해 주시죠. 저는 이것이 인공지능 투자와 응용 분야의 현재 붐에 매우 중요하다고 생각합니다. ImageNet은 사람들에게 AI 개발에 있어서 데이터의 중요성을 일깨워줍니다. 2006년에 이 일을 시작했을 때부터 이런 영향이 있었을 거라고 생각해 본 적이 있나요?

페이페이 리: 저는 ImageNet 프로젝트를 완성하는 과정에 대해 더욱 기대감을 느낍니다. 다른 대부분의 과학자들처럼 저도 지식에 대한 열정과 호기심을 가지고 있으며, 우리의 아이디어가 얼마나 큰 영향을 미칠지에 대해서만 집중하는 것은 아닙니다.

아짐 아자르: 정말 놀랍네요. 기본적으로 이미지를 분류하여 사람들이 알고리즘을 적용할 수 있는 정리된 데이터 세트를 만드는 데 많은 노력을 기울여야 합니다.

2012년 이전 몇 년 동안 매년 약 3억 달러가 인공지능 스타트업에 투자되었으며, ImageNet은 인공지능 기업 환경에 큰 영향을 미쳤습니다.

페이페이 리: 우선, 이런 칭찬을 받게 되어 영광이고, 이러한 성과를 ImageNet 덕분이라고 말씀해 주셔서 매우 감사드립니다. 저는 역사와 시간이 결국 우리의 공헌을 평가할 것이라고 생각하지만, 우리는 실제로 이 작업을 매우 자랑스럽게 생각합니다.

아짐 아자르: 2011년과 2012년의 이미지 인식 기술 개발을 돌이켜보면, 당시의 이미지 인식 기술은 오늘날의 이미지 인식 기술만큼 발전하지 못했습니다. 이 분야의 과학자로서, 수년에 걸친 변화를 어떻게 해석하시나요?

리페이페이:ImageNet은 이미지 인식에 혁명을 일으키고자 하는 열망에서 탄생했습니다.당시 우리가 제안한 아이디어는 많은 과학적 발견과 크게 다르지 않았습니다. 우리는 시각적 지능 연구를 진정으로 촉진하고, 대규모 객체 분류를 풀고 이 문제를 해결하는 방법을 정의할 수 있는 북극성을 구축하기를 바랐습니다.

우리는 이 해결책을 찾는 데 성공했습니다. 물론, 우리는 거인의 어깨 위에 서 있었고, 이 해결책은 갑자기 나온 것이 아니었습니다. 이는 지난 30년간 인지신경과학과 컴퓨터 비전 분야에서 진행된 연구 덕분입니다.

페이페이 리의 관점에서 본 일반 인공지능(AGI)

아짐 아자르: 일반 인공지능, 즉 강력한 인공지능이 최근 대중과 언론에서 자주 언급되고 있습니다. AGI는 당신에게 무슨 의미인가요?

페이페이 리: 제가 처음 "기계가 생각할 수 있을까?"를 읽었을 때, 인공지능의 창시자인 튜링에 의해 AGI(강력한 인공지능)라는 개념이 인공지능이 시작된 이래로 요구되어 왔습니다.그래서 저는 강력한 인공지능의 탄생이 자연스러운 일이라고 생각합니다.

아짐 아자르: 저는 그것이 궁금합니다.AGI(강력한 인공지능)에 대해 생각할 때, 우리는 인간중심주의의 함정에 빠지게 될까요?예를 들어, 첫 번째는 우리가 공학적 방법을 통해 인공지능을 실현한다는 것입니다. 두 번째는 우리가 기계에게 우리의 규칙을 이해시키도록 압력을 가하는 것인데, 이는 기계 지능의 경계로 이어지고, 이는 실제로 인간 지능의 경계입니다.

페이페이 리: 그래서 저는 과학자들이 더 대담한 시도를 할 수 있어야 한다고 생각합니다. 뉴턴이 별을 관찰하던 시절, 인간은 아직 전기를 사용하지 않았지만, 역사적 과정에서 이루어진 모든 노력을 존중해야 합니다.

인간 지능의 관점에서 나를 더욱 흥분시키는 것은우리의 연구는 인공지능, 뇌과학, 인지과학을 통합합니다.따라서 스탠포드 대학의 HAI의 세 가지 원칙 중 하나는 인간에게서 영감을 받은 지능입니다. 이러한 발전은 양방향으로 이루어진다. 우리는 인간의 인지와 인간의 뇌에 대한 이해를 넓히고, 인공지능 개발을 개선하기 위해 그로부터 더 많은 것을 배웁니다.

아짐 아자르: 알고리즘은 인간보다 훨씬 더 많은 일을 할 수 있지만 아직 초기 단계입니다. 15년, 20년, 30년 후를 내다보면, AI 시스템의 의사결정 능력은 어느 수준에 도달할 것으로 생각하시나요?

페이페이 리: 우선, 과학에 대한 호기심은 혁신적인 지능형 기계를 만드는 데 계속해서 앞장서게 하는 원동력입니다. 기계 지능을 인간 지능에 더 가깝게 만들고 싶다면, 인간인 우리 자신이 인간성을 가지고 있으며 기계가 인간과 더 잘 상호 작용할 수 있도록 도울 수 있습니다. 기계가 인간을 이해하고 인간처럼 생각할 수 있다면.

하지만 다시 한번 말하지만, 이러한 발전은 경계 없이 이루어질 수는 없습니다.인간이 항상 혁신을 추구하는 방식은 자신의 한계를 돌파하는 것이었습니다.예를 들어, 우리는 자동차나 마차만큼 빠르지는 않지만, 이러한 도구를 만들어 우리의 역량을 확장하고 향상시키거나 심지어 우리의 역량을 뛰어넘을 수 있습니다.

때로 혁신은 단순히 획기적인 발견에 국한되지 않습니다. 혁신이란 인간과 유사한 능력을 복제하고 인간 노동을 대체하여 문제를 해결하는 것입니다. 하지만 어떤 측면이든, 이 기술을 발전시키려면 경계가 있어야 합니다.

아짐 아자르: 페이페이 리 박사님, 저희 쇼에 출연해 주셔서 감사합니다.

-- 위에--