Aitomatic은 Meta, Tokyo Electron, FPT Software의 기여로 기업의 기술적 자율성을 '잠금'하는 반도체 산업을 위한 최초의 오픈소스 모델을 출시했습니다.

2024년 초 연구기관 http://Market.us 발표된 보고서에 따르면 글로벌 반도체 시장이 크게 성장할 것으로 예측된다.2024년에는 6,731억 달러에 이를 것으로 예상되며, 2032년까지는 1조 3,000억 달러로 성장할 것으로 예상됩니다.
이 수조 달러 규모의 시장은 상상력이 풍부한 AI와 분리될 수 없다는 점에는 의심의 여지가 없습니다. 기술적 측면에서는 통신과 추론 모두 칩의 지원이 필요합니다. 산업 사슬에서 소비자용 전자제품이든 산업용 애플리케이션이든, 실리콘 밸리의 거대 기업이든 신생 기업이든, 혁신적인 솔루션을 구현하기 위해서는 칩 제조업체에 "의존"해야 합니다.
최근 몇 년 동안, 국내외의 많은 기술 대기업들은 반도체 산업의 높은 장벽을 다소나마 느꼈습니다. 동시에 엔비디아의 시장 가치는 1년 만에 1조 달러에서 3조 달러로 치솟았는데, 이를 통해 엔비디아의 기술적 우위가 하룻밤 사이에 무너질 수 없다는 사실이 다시 한번 입증되었습니다. 이러한 상황에도 불구하고, 점점 더 많은 스타트업이 이 시장에 뛰어들고 있습니다. OpenAI, Amazon, Google과 같은 거대 기업도 시장에 진출하여 자체 개발한 칩을 통해 일정 수준의 자율성을 확보하고 Nvidia에 대한 의존도를 낮추며 협상력을 높이려고 노력하고 있습니다.
더불어 반도체 분야의 연구개발 경험과 재정지원도 매우 중요합니다. 특히 첨단 공정 기술이 무어의 법칙의 한계에 접근함에 따라 설계 아키텍처를 최적화하고 공정 흐름을 혁신하는 등의 방법을 통해 지속적으로 증가하는 AI 애플리케이션 수요를 충족하는 방법이 반도체 산업의 새로운 기술적 과제가 되었습니다.
그러나 데이터 중심 혁신의 시대에는AI도 반도체 산업에 '보답'하기 시작했습니다.기술적 병목현상을 극복하기 위한 새로운 아이디어를 제시합니다.
최근, 산업 분야의 AI 혁신을 선도하는 기업인 Aitomatic은 반도체 산업을 위해 특별히 설계된 세계 최초의 오픈소스 AI 대규모 언어 모델인 SemiKong을 출시한다고 발표했습니다. 이 모델은 반도체 공정 및 제조 기술을 최적화하는 것을 목표로 합니다.
Aitomatic은 이전에 AI Agent인 aiKO와 aiVA를 출시했으며, 도메인별 지식을 바탕으로 반도체, 제조, HVAC, 자동차 및 기타 분야에서 복잡한 문제를 해결할 수 있는 성숙한 응용 프로그램을 개발했다는 점이 주목할 만합니다.
AI가 반도체로 피드백, Aitomatic은 이미 성숙한 프로젝트를 가지고 있습니다.
SemiKong은 반도체 분야에 대규모 언어 모델이 등장한 것은 처음이 아닙니다. 올해 1월, NVIDIA는 자사의 내부 데이터를 기반으로 학습된 맞춤형 대규모 언어 모델인 ChipNeMo를 출시했습니다. 사전 훈련 중에 사용된 내부 데이터 훈련 코퍼스에는 설계, 검증, 인프라 및 관련 내부 문서를 포함하는 231억 개의 토큰이 포함되어 있습니다. 따라서 이 모델이 공개된 후에는 대중에게 공개되지 않고, 오직 직원들만 내부적으로 사용했습니다.
* 전체 보고서를 보려면 여기를 클릭하세요: 몸을 뭉치시겠어요? 엔비디아, 칩 설계에 특화된 대형 모델 ChipNeMo 출시
오픈소스 SemiKong은 AI Alliance로부터 강력한 지원을 받았습니다.
Aitomatic의 CEO이자 SemiKong 프로젝트의 책임자인 Christopher Nguyen은 또한 AI Alliance의 Foundational Models 중점 분야의 공동 책임자이기도 합니다. 그는 경쟁 비밀주의로 유명한 반도체 산업에서 세미콩은 전례 없는 존재라고 말했습니다. 기업/도구/공정/장비 수준에서 독점적인 차별화와 경쟁을 장려하는 반면, 기본 수준의 R&D 결과를 공유하는 데는 단점보다 장점이 더 많습니다.

오픈소스 환경에서 탄생한 SemiKong은 다양한 회사의 강점을 통합했습니다. 이는 AI Alliance 회원인 Meta의 오픈소스 Llama 3 모델을 기반으로 하며, Tokyo Electron, FPT Software 등 반도체 기업의 AI 전문 지식을 활용합니다. 이 모델은 반도체 공정의 정확성, 관련성, 이해도를 크게 향상시켜 일반 모델보다 우수한 성과를 보였습니다.
이것이 Aitomatic이 반도체 산업에 처음 진출한 것은 아니라는 점은 주목할 만합니다.
Aitomatic은 aiKO라는 AI 에이전트를 출시했습니다.기업 사용자의 전문 지식과 데이터를 바탕으로, 우리는 그들을 위한 전담 에이전트를 구축하고, 기업은 자신의 에이전트에 대한 "완전한 소유권"을 갖습니다. 동시에 회사 내부 데이터와 관련 전문가의 전문 지식을 활용하여 교육을 실시하기 때문에 상담원은 회사의 비즈니스 로직에 더 잘 적응할 수 있으며, 이는 실제 수요입니다.
구체적으로, 글로벌 반도체 대기업인 도쿄일렉트론은 Aitomatic aiKO Agent를 사용하여 반도체 최적화 AI Agent를 만들었습니다. 이 Agent는 엔지니어가 과거에 검토한 방대한 데이터 테이블을 소화하고 학습하여 리소그래피와 같은 복잡한 공정에서 발생하는 비정상 상황에 대해 즉각적이고 정확한 제안을 제공합니다.이를 통해 진단 시간이 4배 단축되고 가동 중지 시간은 10%만큼 감소합니다.
예를 들어, 공정 엔지니어가 4나노미터 증착 층을 설계해야 할 때 aiKO는 정확한 온도 및 가스 흐름 매개변수를 빠르게 제안하여 필요한 실험 횟수를 줄이고 결과를 얻는 시간을 단축할 수 있습니다. aiKO는 문제 분석, 원인 식별, 단계별 안내 제공을 통해 시간이 많이 소요되는 시행착오를 최소화하고 장치 기능을 최적화합니다.
오픈소스 SemiKong이든 기업용 맞춤형 AI 에이전트이든 Aitomatic의 솔루션은 NVIDIA의 ChipNeMo와 많은 유사점을 가지고 있으며, 반도체 산업의 기존 제조업체에 AI 혁신을 위한 새로운 옵션을 제공한다는 것을 알아내는 것은 어렵지 않습니다.
반도체 제조업체는 어느 정도 AI 산업 사슬의 시작 단계에 있지만, 대부분은 전통적인 제조 기업으로 디지털 전환과 혁신적인 AI 기술 적용에 대한 경험과 리더십이 부족합니다. 하지만 일반적인 제조 디지털화 솔루션으로는 세분화되고 정밀한 반도체 제조에 대한 심층적인 이해를 갖추기 어렵습니다.기업들이 내부에서 문을 열지 않는다면 AI가 반도체 산업에 진입하기 어려울 것이다.
Aitomatic은 반도체 제조업체의 설계 문서와 디버깅 실험 데이터와 같은 귀중한 리소스를 활용하여 기업의 비즈니스 프로세스와 실제적인 문제점을 기반으로 맞춤형 AI 에이전트를 훈련합니다. 이러한 AI 에이전트는 기업에서만 사용할 수 있으므로 기존 반도체 제조업체가 데이터 보안에 대해 갖는 우려를 크게 줄일 수 있습니다.공식 웹사이트에서 말했듯이, 귀하의 지식, 귀하의 IP가 귀하의 산업적 과제를 해결해 드립니다.
창립자 Christopher Nguyen 박사: 오픈 소스 프레임워크는 기업 기술 자율성을 보장합니다.
Aitomatic이 반도체 분야에 자주 뛰어든 것은 창립자의 업무 경험과 밀접한 관련이 있습니다.

회사의 공동 창립자이자 CEO인 크리스토퍼 응우옌 박사는 기술 창업자로서 많은 기업적 사업에 참여했습니다. 그는 40년의 경력 동안 인텔의 첫 번째 플래시 메모리 트랜지스터 제조에 참여했고, 구글의 첫 번째 엔지니어링 디렉터를 역임하며 구글 앱 개발에 중요한 역할을 했습니다. 동시에 그는 교수로서 홍콩과학기술대학에서 컴퓨터공학과를 공동 창립하기도 했습니다.
아마도 그는 실리콘 밸리의 여러 거대 기업의 초기 성장 단계에 참여했고 다양한 기업가적 경험을 가지고 있기 때문에 크리스토퍼 응우옌 박사는 새로운 기술 쇄신의 발전에 대해 더 깊이 이해하고 있을 것입니다. 그는 포브스에 "AI 도입 시 고려해야 할 5가지 사항"을 소개하는 기사를 쓴 적이 있습니다.이러한 요소는 규모, 소유권, 수준, 산업 및 도메인 지식입니다.
* 원본 링크:
https://www.forbes.com/sites/forbestechcouncil/2023/12/12/five-considerations-when-adopting-ai-an-executives-solid-compass/
그 가운데 그는 "AI 모델을 소유하거나 임대하는 것은 부동산 분야에서 집을 사거나 임대하는 문제와 같다"고 제안했습니다.오픈 소스 기반으로 AI 시스템을 개발하는 것은 주택 소유의 이점을 반영합니다.이를 통해 기업은 자체 AI 시스템을 사용자 지정하고 도메인별 지식과 독점적 통찰력을 내장할 수 있습니다. 이를 통해 조직적 목표를 달성하는 데 있어 AI의 효율성이 향상될 뿐만 아니라 기술에 대한 통제력도 강화됩니다. "
또한 그는 "전문 모델과 일반 모델 중 하나를 선택하는 것은 숙련된 건축가나 숙련된 장인을 선택하는 것처럼 전략적입니다. 정밀성과 특정 전문성이 요구되는 분야에서는 특정 분야에 맞춰 정교하게 조정되고, 높은 정밀도로 과제를 해결하며, 특정 분야에서 탁월한 성과를 낼 수 있도록 하는 집중된 전문성을 갖춘 전문 AI 모델이 필수적입니다."라고 생각합니다.
그의 견해는 Aitomatic의 개발 경로와 제품에도 직관적으로 반영되어 있습니다. 위에서 소개한 전문가 모델 외에도 회사는 AI 에이전트를 오픈 소스 분야로 확장하여 오픈 소스 프로젝트인 OpenSSA를 출시했습니다. OpenSSA는 모든 사람이 특정 분야에서 AI 에이전트를 만드는 데 도움이 되는 가벼운 전문가용 에이전트 프레임워크입니다.
* 프로젝트 주소:
https://github.com/aitomatic/openssa
Christopher Nguyen 박사가 말했듯이,"산업 기업에 있어 AI 독립성은 매우 중요하며, 특정 분야에 집중된 전문성은 경쟁력의 핵심입니다."오픈 소스 OpenSSA는 산업 기업이 도메인별 IP에 대한 자율성을 유지하도록 보장하여 에지 기술에 필수적인 안전하고 제한 없는 AI 배포를 가능하게 합니다.
또 하나: AI 얼라이언스
OpenSSA가 출시되었을 때,Aitomatic은 또한 AI Alliance의 창립 회원이 되었다고 발표했습니다.이 AI 연합의 호화로운 라인업에는 Intel, AMD, IBM, Meta, Oracle, Hugging Face, Sony Group, Dartmouth College, Cornell University, Yale University, Tokyo University, Linux Foundation 등 전 세계 50개 이상의 기관이 포함됩니다.
AI Alliance의 주요 초점 분야는 다음과 같습니다.
* 전 세계적으로 AI 시스템의 책임감 있고 확장 가능한 개발 및 사용을 가능하게 하기 위해 벤치마크 및 평가 표준, 도구 및 기타 리소스를 개발하고 배포합니다.
* 오픈 베이스 모델, 다양한 모드를 갖춘 오픈 베이스 모델 생태계 구축
* AI 가속 하드웨어 생태계 구축
* 글로벌 AI 기술 구축, 교육 및 탐색 연구 지원
얼라이언스의 초기 멤버 중 하나인 세미콩은 얼라이언스로부터 큰 혜택을 누렸습니다. 도쿄일렉트론의 관련 데이터를 활용했다고 밝혔습니다. 앞으로 연합에 참여한 다른 반도체 기업들이 더욱 이용 가능하고 가치 있는 데이터 리소스를 개방할 수 있다면 SemiKong의 정확도와 적용 범위는 필연적으로 향상될 것이며, 이를 통해 SemiKong은 반도체 분야에서 전방위적인 AI 에이전트가 될 것입니다.
참고문헌:
1.https://www.aitomatic.com/newsroom/newsroom
2.https://mp.weixin.qq.com/s/1_2F