인공지능의 목표는 설탕물을 판매하는 것일까요?

아마도 세상을 바꾸고 싶을 수도 있다.

스티브 잡스는 한때 펩시코의 CEO를 설득해 애플에 합류하게 한 적이 있다고 유명하게 말했습니다. "평생 설탕물을 팔고 싶습니까? 아니면 나와 함께 세상을 바꾸고 싶습니까?"

잡스는 오늘날 많은 기업의 생존에 대한 진실을 밝혔습니다. 그들의 주된 목적은 자원을 부족하게 만들어 수요를 늘리는 것입니다. 이는 "희소성 경제학"으로 알려져 있으며, 인위적으로 희소성을 조성하도록 고안된 사업 전략입니다.

인위적인 희소성의 예로는 "계획된 노후화"가 있습니다. 애플은 이 분야의 달인입니다. Apple이 액세서리를 판매하지 않는다는 걸 알고 계셨나요? 그렇다면 고장난 기기를 어떻게 고칠 수 있을까요? 2012년부터 Apple이 컴퓨터를 조립하는 데 나사 대신 접착제를 사용해 수리가 불가능해졌다는 사실을 알고 계셨나요? Apple이 의도적으로 iPhone의 배터리 수명을 줄여서 성능을 낮추고 있다는 사실을 알고 계셨나요?

오늘 제가 사용하고 있는 노트북은 2011년형 맥북 프로입니다. 이 제품은 직접 업그레이드할 수 있는 마지막 Apple 노트북입니다. 제 컴퓨터는 i7 프로세서, 16GB RAM, 1TB SSD를 탑재하고 있는데, 이는 최신 노트북의 두 배에 달합니다. 이 정도면 대부분 작업을 하기에 충분하고 최신 노트북과 비슷한 수준입니다. RAM이 많으면 정말 도움이 됩니다. 브라우저를 너무 많이 열어두는 편이거든요.

비트코인은 인위적인 희소성의 또 다른 예입니다. 비트코인은 생성된 코인의 수를 2,100만 개로 제한하도록 설계되었습니다. 비트코인은 국가 통화(예: 미국 달러)처럼 인쇄할 수 없으며, '채굴'(복잡한 암호화 계산 문제를 해결)만 가능하며, 이때 에너지 소비가 발생합니다. 비트코인 채굴에는 너무 많은 에너지가 필요합니다. 아이슬란드 생산 능력의 절반 이상이 암호화폐 채굴에서 나옵니다. 비트코인 채굴은 시간이 지날수록 점점 더 어려워지고, 채굴할 수 있는 코인의 수는 4년마다 절반으로 줄어듭니다. 그렇다면 비트코인이 금보다 왜 더 희귀하고 비싼지 궁금하시다면, 그 이유는 인위적인 희소성 때문입니다. 마치 죽은 예술가가 그린 그림과 같습니다. 품귀 현상이 발생하면 가격이 급등합니다. 꼭 사실일 필요는 없어요. 상상력만 있으면 돼요!

세계 최대의 AI 기업인 구글과 페이스북을 살펴보겠습니다. 그들은 어떻게 돈을 버나요? 이 두 회사는 주로 광고 사업을 하고 있습니다. 광고는 관심의 상업화입니다. 고객에게 콘텐츠를 판매할 수 없다면 광고주에게 고객을 판매하는 게 낫습니다. 두 회사 모두 딥 러닝 AI를 사용하고 있으며, 그 목표는 광고주가 고급 인공지능 기술을 통해 소비자의 행동을 예측하고 이를 통해 소비자의 행동을 조작하여 소비자에게 설탕물을 판매할 수 있도록 하는 것입니다.

지능에는 최소한 세 가지 측면이 있습니다. 컴퓨팅 능력, 자율 인식, 사회적 지능입니다. 첫 번째는 우주나 약물의 속성을 발견하는 데 사용될 수 있습니다. 두 번째 유형은 자동화를 촉진하는데, 이는 인간의 개입 없이 행동하고 결정을 내리는 것입니다. 마지막은 모든 사람이 원하는 것인데, 인간의 행동을 예측하여 돈을 찍어내는 기계입니다.

그렇다면 인간의 행동을 예측할 수 있다면, 지금 당장 그것을 이용해야 할까요? 연구에 따르면 AI는 오용될 수 있다고 합니다(논문 제목: 인공 지능의 악의적 사용: 예측, 예방 및 완화). 100페이지 분량의 이 논문은 인공지능 기술이 어떤 방식으로 해를 끼칠 수 있는지에 대한 내용을 담고 있습니다.

본 기사의 프레임워크는 다음을 포함한 보안과 관련된 AI 기능을 중심으로 구성됩니다.

• 효율적이고 확장 가능한 기능
• 인간의 능력을 초월한다
• 익명성과 심리적 거리를 강화하는 능력
• 빠르게 확산되는 능력

AI를 위험하게 만드는 특징은 설탕물을 가치 있게 만드는 특징과 같습니다. 기본적으로 우리는 고객에게 우리가 판매하는 설탕물이 가치 있다고 믿게 하고 싶으며, 우리는 애프터 서비스에 대한 책임을 지지 않습니다. 우리는 전 세계 사람들에게 견고한 SUV나 트럭을 구매하도록 설득하지만, 그것이 환경에 미치는 영향과 발자국에 대한 책임을 지고 싶어하지 않습니다. 우리는 총이 우리를 안전하게 지켜줄 것이라고 세상을 설득하고 싶지만, 총이 일으키는 파괴에 대한 책임을 지고 싶지 않습니다. 우리는 고통받는 사람들에게 오피오이드가 가장 좋은 진통제라는 걸 확신시키고 싶지만, 약물 중독에 대한 책임을 지고 싶지는 않습니다. 희소성은 돈을 만들어냅니다. 희소성이 반드시 인류에게 유익하지 않다면 희소성은 쓸모가 없습니다.

우리 모두는 AI 분야에서의 우리의 작업이 인간에게 이로울 것이라고 믿고 싶어합니다. 스티브 잡스가 말했듯이, 우리 모두는 더 큰 이익을 위해 "세상을 바꾸고 싶어"합니다. 하지만 무엇이 더 나을까요? 행복이 더 나은가요? 만약 그렇다면, 우리는 환각제를 주입하고 가상현실에 끊임없이 빠져들지도 모릅니다.

제가 제안하는 건, 만성적으로 특이한 증상을 보이는 사람들을 살펴보는 거예요. 파란색 영역은 가장 오래 사는 사람들의 생활 방식과 환경을 나타냅니다. 그들이 발견한 것은 일본 오키나와 사람들에게는 이키가이(生木甲斐)라는 개념이 있다는 것입니다.

우리가 아침에 일어나는 이유는 (1) 우리가 즐기는 일, (2) 우리가 잘하는 일, (3) 세상에 필요한 일, (4) 수입을 제공하는 일을 해야 하기 때문입니다.

가장 큰 문제는 마지막이에요. 우리가 돈을 주고 사는 대부분의 물건은 희소한 물건입니다. 이 네 가지 요소를 모두 동시에 누릴 만큼 운이 좋은 사람은 아주 소수에 불과합니다(대학에서 일하는 사람들이 그런 것 같습니다). 우리 대부분은 의미 없는 일에 인생을 낭비합니다. 아마도 AI의 진짜 목표는 세상을 바꾸어 우리가 "존재의 이유"를 갖고 아이들에게 설탕이 많은 음료를 파는 데 인생을 낭비하지 않도록 하는 것이어야 할 것입니다.

출처: Carlos E. Perez https://medium.com/intuitionmachine/is-the-purpose-of-ai-to-sell-sugar-water-e6466d574ec0