당신 손에 있는 코드가 그들의 총알이 될 수도 있습니다.

약 70년간 적대 관계를 유지해 온 북한과 미국을 대표하는 34세 김정은 위원장과 72세 트럼프 대통령이 싱가포르 카펠라 호텔에서 약 13초간 손을 잡았습니다.

최근 몇 년간 북한의 핵 프로그램, 미군의 적극적인 공세, 러시아와 중국의 방어적 태도, 불안정한 국제 정세 등으로 인해 전 세계가 불안에 빠졌습니다.

수십 년 전 냉전과는 달리, 현대 국가들은 더욱 진보된 군사 무기를 개발하고 더 많은 군사 인재를 양성하여 세계에서 자신의 입지를 다지기 위해 정보 기술에 대한 투자에 점점 더 집중하고 있습니다.

군사기술 개발에 있어서 미국에 대해서는 말할 것도 없을 것이다. 그들은 항상 인재를 우선시해 왔기 때문이다.

하지만 미국의 추세는 MIT, 스탠포드 등 유명 주류 대학들이 많은 공학 인재를 양성했지만, 그들은 대부분 산업계로 바로 진출하는 응용 인재들이었고, 국방이나 군사 목적으로 양성되는 경우는 드물다는 것입니다.

다른 나라와 달리 우리나라는 군사기술에 대한 포괄적인 이해를 가지고 있습니다. 예를 들어, 우리가 잘 아는 중국과학기술대학, 국방과학기술대학, 인민해방군 정보공정대학 등 유명 대학들은 모두 컴퓨터 과학, 전자 정보, 빅 데이터 등 현대 과학 기술 전공을 갖추고 있으며, 거의 모두 국방과 군사 훈련 및 전달을 목표로 합니다.

또한, 우리나라에는 중국적 특색을 지닌 유형의 학생, 즉 국방학생이 있는데, 이들은 각 대학에 입학하여 우대 수업료 정책과 엄격한 교육 과정을 누리고 있습니다.

우리의 오랜 이웃인 러시아 역시 인재 양성에 큰 중요성을 두고 있으며, 특히 컴퓨터 과학 분야에서 그렇습니다. 누구나 알다시피 러시아의 수학적 기초가 매우 뛰어나기 때문에 ACM이 1977년에 국제 대회가 된 이래로 러시아는 사실상 가장 많은 우승을 차지한 국가가 되었습니다.

싸우는 나라는 비교할 수 없다

여러분 중 많은 분이 올해 베이징 대학에서 열린 ACM을 보셨을 것으로 생각합니다. 러시아를 포함한 몇몇 동유럽 대학은 다시 한번 그 존재감을 드러냈고 다른 나라들을 크게 앞지르며 성과를 냈습니다.

하지만 기업가적 환경이 부족하고 독점적 산업이 너무 많기 때문에 이런 똑똑한 프로그래머들이 과학과 기술 분야에서 발전하기는 어렵습니다. 그들이 국가에 기여하고 싶다면 탱크만 만들 수 있습니다.

오늘 뉴스에서 "백두산 위인"으로 화제가 된 위대한 지도자 김정은 장군이 이끄는 북한은 인재 경쟁에서 난처한 입장에 처해 있습니다. 이 나라에서 대학이 될 수 있는 학교는 극소수에 불과합니다. 컴퓨터공학 분야에서는 김책공업대학교만이 뛰어난 성과를 낼 수 있으며, 인재가 부족하다고 할 수 있다.

게다가 국가 전체가 비교적 폐쇄적이다. 핵 프로그램이 중단된 후에도 이 소수의 과학 및 공학 인재들은 이 나라를 위해 잠수함을 계속 건조할 수 있었습니다. 저는 북한의 기술력에 대해서도 걱정합니다. 결국, 위대한 지도자 김정은 장군께서는 너무 많은 것을 자랑하셨습니다.

3개월이 넘도록 3,000명이 넘는 직원이 공동으로 시위를 벌이면서 회사는 여론의 압박을 받게 되었습니다. 구글은 결국 미군의 "프로젝트 메이븐"과의 계약 갱신 계획을 포기했습니다. 이는 기술적 승리이기는 하지만 인터넷 회사와 국가 차원의 군사 프로그램의 협력이 끝났다는 것은 결코 아닙니다.

Project Maven 프로젝트는 내부 직원에 의해 처음 공개되었습니다. 당시 구글은 민간 중개 회사를 통해 미군에 AI 지식과 기술 지원을 제공하고, 미군이 드론 AI 시스템을 개발하도록 돕고, 군이 구글 클라우드를 사용할 수 있도록 하며, 텐서플로우를 사용하도록 안내하고 지원하고 있었습니다.

이 사건은 회사 내에서 전례 없는 논란을 불러일으켰고 대중의 엄청난 압력을 불러일으켰으며, 결국 마벤과의 프로젝트 협력은 중단될 뿐이었습니다. 구글이 미군 작전에 개입하는 것을 멈췄다고 생각한다면 당신은 너무 순진한 생각입니다.

미국 국방부는 매년 정보기술 분야의 과학연구에 약 100억 달러를 투자하는데, 이는 다른 국가의 총 국방 투자액이나 수십 개국의 총 국방 투자액을 합친 것보다 훨씬 높은 금액입니다. 그리고 우리가 Project Maven에 대해 아는 것은 빙산의 일각일 뿐입니다.

구글 외에도 IBM, 마이크로소프트 등도 미국 국방부의 다양한 군사 프로젝트에 기술 지원을 제공하고 있습니다.

인터넷 회사의 엔지니어들은 AI 기술 개발을 촉진해 왔습니다. 이러한 민간 항공기를 군사 무기를 개발하고 군사 전쟁에 참여하는 데 직접 사용할 수 있을까요?

지금까지 실현된 기술을 보면, AI의 자율성은 과거 데이터에 기반을 두고 있습니다. AI는 강력한 컴퓨팅 능력을 활용하여 과거 기록을 바탕으로 미래의 행동에 대한 간단한 예측을 내릴 수 있습니다.

하지만 이러한 데이터만으로는 AI가 인간과 같은 도덕적 기준을 형성할 수 있을 만큼 충분하지 않습니다. 그들은 인종차별이나 살인의 의미에 대해 모릅니다. 그들은 확립된 알고리즘의 명령을 기계적으로 실행할 뿐입니다. 따라서 데이터에 대한 과도한 의존도 AI의 치명적인 결함이다.

입력 데이터가 부정적이거나 편향적일 경우 AI는 편향된 방식으로 행동하고 인종 차별, 성 차별 등의 편향을 증폭시킬 수도 있습니다. 인간은 도덕성을 사용하여 스스로를 제지할 수 있지만 AI에게 데이터는 도덕성입니다.

AI의 논리에 따르면, 트럼프의 시리아 공습은 미사일 몇 발을 발사하는 것만큼 간단하지 않을 것입니다. 게다가 인간의 통제 하에서는 입력 데이터가 주관적이지 않다는 것을 보장하기 어렵고, 이러한 주관성은 편향될 수 있습니다.

구글이 군과의 프로젝트에서 철수한 것은 여론의 승리이지만, 이것이 인터넷 기업들이 개발한 AI 기술이 군사 분야에 더 이상 적용되지 않을 것이라는 것을 의미하지는 않습니다. 영국 정부는 최근 일련의 AI 개발 원칙을 발표했습니다.

• AI는 인류의 공동선을 위해 개발되어야 합니다.

• AI는 이해 가능성과 공정성의 원칙에 따라 작동해야 합니다.

• AI는 개인, 가족 또는 커뮤니티의 데이터 및 개인정보 보호 권리를 훼손하는 데 사용되어서는 안 됩니다.

• 모든 시민은 AI와 함께 정신적, 감정적, 경제적으로 성공할 수 있는 교육을 받을 권리가 있습니다.

• AI는 인간을 해치거나 파괴하거나 속일 수 있는 자율적인 능력을 가져서는 안 됩니다.

AI 엔지니어 여러분, 여러분의 프로젝트를 바탕으로 이 글을 읽어보세요.