HyperAI초신경

HyperAI Super Neural X Apache │커뮤니티 오버 코드 아시아 2025 AI 스페셜

特色图像

7월 25일부터 27일까지, 아파치 소프트웨어 재단(ASF)의 공식 글로벌 컨퍼런스 시리즈인 Community Over Code Asia 2025가 베이징 중관촌 국가독립혁신시범구 컨퍼런스 센터에서 개최됩니다!

이번 컨퍼런스의 AI 주제는 OpenBayes Bayesian Computing의 설립자 겸 CEO인 왕첸한, Apache Software Foundation의 회원인 탄중이, 그리고 Datastrato의 설립자 겸 CEO인 두준핑이 전문 프로듀서로서 공동으로 발표합니다. 이들은 7월 25일 14시부터 17시 15분까지 Apache 커뮤니티 구축 및 개발에 대한 최신 정보와 최첨단 사례를 제공할 예정입니다. HyperAI는 이 행사에 협력 커뮤니티로 참여하여 마켓 부스를 운영할 예정입니다. 모두 오셔서 함께 즐겨주세요~

특별 주제

AI 포럼은 인공지능(AI) 기술과 아파치 오픈소스 프로젝트의 결합에 중점을 둔 전문가 소통 플랫폼입니다. 이 포럼은 전 세계 개발자, 연구자, 업계 사용자들을 한자리에 모아 오픈소스 생태계에서의 AI 기술 적용 및 개발에 대해 논의하고, 최첨단 기술을 선보이며, 실무 경험을 공유하고, 다양한 산업 분야에서 오픈소스 AI 솔루션의 구현을 촉진하는 것을 목표로 합니다.

이 포럼에 적합한 주제는 다음과 같습니다.

  • Apache 재단 산하의 AI 관련 프로젝트(예: Apache TVM, Mahout, Singa, SystemML 등과 같은 오픈소스 AI 프레임워크와 기본 라이브러리 프로젝트에 중점)
  • AI 시나리오에서 Apache 단일 프로젝트 최적화(예: Spark MLib, Flink ML 등)
  • 특정 기업의 AI 사업 구축 방식 등 여러 Apache 프로젝트의 결합을 기반으로 한 산업 시나리오에 대한 AI 솔루션

생산자

왕첸한

Apache TVM 중국어 문서 번역 업체 중 하나인 OpenBayes Bayesian Computing의 창립자 겸 CEO이자 톈진대학교 베이지안 컴퓨팅 공동 연구 센터 부소장입니다. 월트 디즈니 인터랙티브 미디어 그룹과 AVOS 시스템즈 등의 기술 기업에서 근무했으며, 오픈소스 단체인 CLUE 벤치마크 재단의 사무총장을 역임했습니다.

탄종이

COPU 부사무총장, 오픈소스 분야에서 20년 이상 종사, Apache 소프트웨어 재단 회원.

두준핑

Datastrato 설립자 겸 CEO, LF AI & DATA 재단 이사, Apache 소프트웨어 재단 회원, 빅데이터 기술 및 오픈소스 전문가, Apache 오픈소스 재단 회원, Apache Hadoop, OZone, YuniKorn 및 기타 프로젝트의 커미터 겸 PM, Apache Gravitino, NuttX 및 기타 프로젝트의 멘토. Fortune 500대 기업 오픈소스 위원회 전 의장, 빅데이터 플랫폼 R&D 이사, 오픈소스 사업 총괄 매니저, Hortonworks Hadoop 컴퓨팅 팀 전 책임자 등 역임.

의제 하이라이트

📅 7월 25일 14:00 – 17:15

발표 주제: 클라우드 기반 방식으로 이기종 GPU 활용 극대화 | HAMi의 힘 발휘 

나눔 시간: 7월 25일 14:00-14:30

주제 소개: AI의 인기가 높아짐에 따라 쿠버네티스는 AI 인프라의 사실상 표준으로 자리 잡았습니다. 하지만 NVIDIA, Intel, Huawei Ascend, Haiguang, Muxi, Cambrian, Tianshu Zhixin, Suiyuan 등 여러 AI 디바이스를 포함하는 클러스터의 수가 증가하면서 주요 과제가 발생했습니다. AI 디바이스는 고가인데, 리소스 활용도를 어떻게 개선할 수 있을까요? K8s 클러스터와 더 효과적으로 통합하는 방법은 무엇일까요? 이기종 AI 디바이스를 균일하게 관리하고, 유연한 스케줄링 전략을 지원하며, 관측 가능성을 확보하는 방법은 무엇일까요? 이 모든 과제는 여러 가지 어려움에 직면해 있습니다. HAMi 프로젝트가 탄생했습니다. 이 발표에서는 다음과 같은 내용을 다룹니다.

  • Kubernetes가 이기종 AI 장치를 관리하는 방법(통합 스케줄링, 관찰 가능성)
  • GPU 공유를 통한 장치 활용도 향상
  • GPU 공유 시나리오에서 우선 순위가 높은 작업에 대한 QoS 보장
  • 유연한 GPU 스케줄링 정책(NUMA 친화성/반친화성, 패킹/분산 등)을 지원합니다.
  • 다른 프로젝트(예: Volcano, 스케줄러 플러그인 등)와 통합
  • 프로덕션 수준 사용자의 실제 사례 공유
  • 현재의 과제와 미래 계획

발표자:

Xiao Zhang | dynamia.ai 창립자, 클라우드 네이티브 애호가이자 커뮤니티 유지 관리자로 AI 인프라에 집중

샤오 장은 dynamia.ai(인프라, AI, 멀티 클러스터 관리, 클러스터 수명 주기 관리(LCM), 그리고 오픈 컨테이너 이니셔티브(OCI)에 중점을 둔)의 창립자입니다. 그는 또한 커뮤니티에 적극적으로 기여하고 클라우드 네이티브 기술에 열정적입니다. 현재 쿠버네티스/쿠버네티스 특별 관심 그룹(Kubernetes-sigs)의 멤버로 활동하며, 카르마다(Karmada), 쿠비안(kubean), 클라우드티(cloudtty) 프로젝트의 유지 관리자로 활동하고 있습니다. 또한, GitHub ID wawa0210으로 CNCF HAMi 프로젝트의 공동 스폰서이자 유지 관리자이기도 합니다.

Yu Yin | Dynamia.ai 제품 소유자, HAMi 오픈 소스 유지 관리자, Kubernetes에서 GPU 가상화 및 AI 인프라 혁신 추진

유인은 dynamia.ai의 제품 책임자이자 쿠버네티스 기반 GPU 가상화 및 이기종 컴퓨팅을 위한 오픈소스 프로젝트인 HAMi의 핵심 유지 관리자입니다. AI 인프라 구축 실무 경험을 바탕으로, 유인은 다중 아키텍처 환경에서 확장 가능한 GPU 공유, 장치 풀링, 지능형 스케줄링을 구현하는 데 집중하고 있습니다. 그는 물류, 통신, 금융 분야의 기업 사용자들이 프로덕션 환경에서 이기종 리소스 관리를 도입하도록 지원해 왔습니다. 동시에, 유인은 중국 내 오픈소스 애플리케이션의 적극적인 지지자이자 HAMi 커뮤니티의 국제화를 주도하고 있습니다.


연설 주제: 아파치 도리스의 AI 분야 탐구와 실천

나눔 시간: 7월 25일 14:30-15:00

주제 소개: 인기 있는 OLAP 실시간 분석 데이터베이스인 Apache Doris는 AI 열풍의 급격한 변화에 발맞춰 벡터 검색, MCP, RAG 및 기타 기능 모듈과 같은 AI 관련 기능과 주변 구성 요소를 더 많이 구축했거나 구축할 계획입니다. 본 발표에서는 소통과 시연을 통해 Doris의 AI 발전 방향에 대한 현재 진행 상황을 발표합니다.

발표자:

YiJia Su | Apache Doris 커미터, SelectDB 솔루션 아키텍트, PowerData 스폰서

Apache Doris 커미터, Apache Doris 커뮤니티 전도사, Doris-MCP 기여자, SelectDB 수석 솔루션 아키텍트, PowerData 커뮤니티 창시자로서 Apache Doris 커뮤니티의 수백 개 회사가 실시간 데이터웨어하우스 구축 및 최적화 진화를 완료하도록 지원했습니다.


발표 주제: Apache Gravitino | AI 시대의 메타데이터 관리 솔루션 

나눔 시간: 7월 25일 15:00-15:30

주제 소개:

메타데이터 관리는 AI 시대의 초석이 되었습니다. 본 강연에서는 Apache Gravitino를 통해 대규모 비정형 데이터 및 모델 관리를 구현하는 방법과 Xiaomi가 대규모 언어 모델(LLM) 데이터 처리 및 모델 수명 주기 관리에 Gravitino를 활용하는 방법을 살펴봅니다.

연설 개요:

1. AI 워크플로에서 데이터 세트 및 모델 관리의 과제와 Gravitino가 파일 세트 카탈로그(구조화된 AI 데이터 세트 거버넌스) 및 모델 카탈로그(통합 모델 수명 주기 관리)를 통해 이러한 문제를 해결하는 방법

2. Gravitino의 태그 시스템, 계보 추적 및 자격 증명 관리 기능을 활용하여 운영 효율성과 거버넌스 준수를 극대화합니다.

3. 샤오미 데이터 처리에서의 파일셋 활용 사례: AI 시나리오에서 데이터 처리는 다운로드, 추출, 필터링, 중복 제거, 학습 등 여러 단계로 진행됩니다. 파일셋을 사용하면 데이터와 AI 엔진 간의 파이프라인 효율성이 향상되고, 엔드투엔드 데이터 세트 관리가 구현되며, 통합된 메타데이터 뷰가 구축됩니다.

4. Xiaomi AI 빅 모델 관리 관행: Xiaomi가 빅 모델 메타데이터를 관리하고 모델 서비스를 배포하는 방식 및 Gravitino와의 통합을 위한 향후 계획

발표자:

샤오징 팡 | Apache Gravitino PPMC 및 datastrato 소프트웨어 엔지니어

Apache Gravitino PPMC 회원으로, 데이터 및 AI 인프라 시스템에 중점을 두고 있습니다.

Han Zhang │ Xiaomi 소프트웨어 R&D 엔지니어

Apache Gravitino 기여자로, Xiaomi AI 개발 플랫폼의 연구 개발을 담당합니다.


연설 주제: 컨텍스트로서의 카탈로그 | 메타데이터를 사용하여 차세대 AI 개발을 추진하고 관리 

나눔 시간: 7월 25일 15:45-16:15

주제 소개: 올해 주제는 강력한 AI 도구 개발이며, 지능형 에이전트와 기본 모델은 다양한 분야에서 상당한 진전을 이루었습니다. 하지만 핵심 질문은 여전히 남아 있습니다. 이러한 애플리케이션에 효과적으로 작동하는 데이터를 어떻게 제공할 수 있을까요? 엔터프라이즈급 확장성은 어떻게 달성할 수 있을까요? 맥락의 본질은 무엇일까요? 이 발표에서는 빅데이터 생태계의 현재 상황, AI 데이터 플랫폼이 직면한 과제, 그리고 데이터 카탈로그와 메타데이터가 효율적이고 제어 가능한 AI 개발을 위한 유일한 방법인 이유를 살펴봅니다. 오픈소스 프레임워크인 Apache Gravitino를 예로 들어 이러한 솔루션이 공급업체에 의존하지 않아야 하는 이유를 설명합니다.

발표자:

제리 샤오 | Datastrato, CTO

제리 샤오는 Datastrato의 공동 창립자이자 CTO이며, 오픈소스 빅데이터 분야에서 10년 이상 활동해 왔습니다. Apache 회원으로서 Apache Spark와 Apache Inlong의 커미터이자 PMC 회원이며, Apache Gravitino(인큐베이팅) 프로젝트의 창립자입니다.


발표 주제: 데이터에서 AI까지 | Apache Cloudberry 기반 통합 분석 플랫폼 구축

나눔 시간: 7월 25일 16:15-16:45

주제 소개:

오늘날 기업들은 단편화된 데이터 시스템, 비효율적인 처리 흐름, 그리고 분석과 머신러닝 간의 격차로 인해 AI의 잠재력을 최대한 발휘하는 데 어려움을 겪고 있습니다. 오픈소스 MPP 데이터웨어하우스인 Apache Cloudberry는 데이터 처리와 AI 기능을 심층적으로 통합하여 장벽을 제거하고 혁신을 가속화함으로써 이러한 패러다임을 재정의합니다.

이 강연에서는 Cloudberry가 어떻게 다음을 수행할 수 있는지 보여드리겠습니다.

  • 통합 실행: PyTorch, Scikit-learn과 같은 기본 AI/ML 모델을 데이터웨어하우스에서 직접 실행합니다.
  • 다중 모드 분석: 통합 프레임워크에서 구조화된 데이터와 구조화되지 않은 데이터(PDF, 이미지 등) 처리
  • 지능형 데이터 애플리케이션: RAG 강화 질문 답변 시스템, 대화형 BI 및 다중 모드 검색 구축

AI 워크로드를 확장하는 동시에 아키텍처를 단순화하기 위해 데이터와 인텔리전스를 통합 플랫폼으로 수렴하는 방법을 알아봅니다.

발표자:

Chuanxin Bian|해시데이터, 데이터 및 AI 엔지니어

비안촨신 박사는 딥러닝, 자연어 처리, 시계열 모델링을 전문으로 하는 데이터 과학자이자 응용 수학자입니다. 그는 홍콩 이공대학교에서 응용수학 박사 학위를 취득했습니다. 현재 HashData에서 근무하며 HashML, ChatData와 같은 AI 도구와 AIGC 애플리케이션 개발을 이끌고 있습니다. 그는 바이두에서 선임 R&D 엔지니어로 재직하며 Wenxin 빅 모델 개발에 참여하고, PaddleTS 기반 시계열 모델을 구축했으며, 사용자 초상화 시스템 업그레이드를 추진했습니다. 그는 Python과 딥러닝 프레임워크에 능숙하며, 이론과 실제를 연결하여 AI 혁신을 촉진하는 데 능숙합니다.


발표 주제: Apache Doris 하이브리드 검색 기술 분석

나눔 시간: 7월 25일 16:45-17:15

주제 소개:

Apache Doris의 하이브리드 검색 기능은 기존의 전체 텍스트 검색(키워드 기반 사전 검색)과 벡터 검색(의미 기반 검색)을 결합하여 더욱 정확한 검색 결과를 제공합니다. 이 기능은 전자상거래, 콘텐츠 추천, 지식 기반 검색과 같이 키워드 매칭과 의미적 이해가 모두 필요한 복잡한 검색 시나리오에 특히 적합합니다.

1. 하이브리드 검색의 핵심 원칙

하이브리드 검색은 두 검색 방법의 장점을 모두 활용합니다.

  • 전체 텍스트 검색(BM25): 역색인 및 키워드 매칭을 기반으로 사용자가 입력한 쿼리 용어를 정확하게 매칭하는 데 효과적입니다. Doris는 BM25 알고리즘(기본값)을 사용하여 문서와 쿼리 간의 관련성 점수를 계산하는데, 이는 구조화된 텍스트 검색에 적합합니다.
  • 벡터 검색(의미 검색): 텍스트를 벡터로 변환(임베딩)하여 머신 러닝 모델을 사용하여 쿼리와 문서 간의 의미적 유사성을 계산합니다. 이 모델은 쿼리 의도와 맥락을 이해하는 데 효과적입니다.
  • 융합 메커니즘: 두 가지 방법의 검색 결과를 통합하고 어휘적 관련성과 의미적 관련성을 균형 있게 조정하기 위해 특정 점수 매기기 및 순위 매기기 기술(예: 상호 순위 융합/RRF 또는 볼록 조합/CC)을 사용합니다.

2. 기술 구현 아키텍처

Doris 하이브리드 검색은 다음과 같은 기술 구성 요소와 워크플로를 사용합니다.

1. 필드 유형 지원

  • 텍스트 필드: 단어 분할기를 통해 역색인을 생성하여 전체 텍스트 검색을 지원합니다.
  • 벡터 필드: 모델을 사용하여 텍스트를 벡터 유형 저장소로 변환합니다.

2. 복합지수

  • 텍스트와 벡터 필드 모두 저장 지원
  • 하이브리드 쿼리 기능 활성화

3. 쿼리 실행 프로세스

  • 사전 쿼리: 일치 쿼리를 사용하여 키워드와 일치하는 문서를 검색합니다(BM25 알고리즘 기반)
  • 벡터 쿼리: knn 쿼리나 ANN 인덱스를 사용하여 의미적으로 유사한 문서(코사인 유사도 등을 기반으로)를 검색합니다.
  • 하이브리드 쿼리: 두 개의 쿼리를 병렬로 실행하고 퓨전 알고리즘을 통해 결과를 결합합니다.

4. 결과 융합 전략

  • RRF(Reverse Ranking Fusion): 다양한 검색 방법에서 높은 순위를 차지한 문서를 강조하여 다양한 쿼리 결과에서 문서의 순위를 기반으로 종합 점수를 계산합니다.
  • CC(Convex Combination): BM25 점수와 벡터 쿼리 점수를 가중 합산을 통해 통합하고 수동으로 가중치 균형을 조정합니다.
  • script_score 또는 Rerank 모델을 통해 결과 순위를 더욱 최적화합니다.

발표자:

Lee Happen | SelectDB Senior-RD

아파치 도리스 PMC 회원


📅 7월 26일 14:00 – 16:45

발표 주제: 대규모 언어 모델을 CI/CD 파이프라인에 통합 | Apache 프로젝트 코드 품질 개선을 위한 실제 사례

나눔 시간: 7월 26일 14:00-14:30

주제 소개: 이 강연에서는 Apache 프로젝트의 코드 품질과 보안을 향상시키기 위해 대규모 언어 모델(LLM)을 GitHub Actions에 체계적으로 통합하는 방법을 살펴봅니다. Apache/brpc#2911의 실제 사례를 바탕으로 합니다. 특히 코드 품질을 보장하기 위해 AI 에이전트를 설계, 구현 및 배포하는 실행 가능하고 오버헤드가 낮은 전략을 찾는 개발자와 유지 관리자에게 적합합니다.

우리는 청중이 다음과 같은 측면에 대해 생각하도록 안내할 것입니다.

  • 인간-기계 협업: 파이프라인에서 비동기 AI 에이전트 워크플로와 기존 "조종사" 모델(인간 중심, 동기식)을 비교하여 효율성 향상 및 상충 관계 강조
  • 연습: RAG, 미세 조정 또는 MCP에 의존하지 않고 리소스 제약 하에서 코드 견고성 스캐닝 및 CVE 감지와 같은 타겟 작업을 수행하기 위해 LLM을 사용하는 방법을 알아보세요.

발표자:

이위안|소프트웨어 개발자

CNCF 케플러 프로젝트 유지 관리자로, 주로 프로젝트 파이프라인 관련 업무를 담당합니다.


연설 주제: 랜스 | 멀티모달 AI의 최첨단을 위한 데이터 형식

나눔 시간: 7월 26일 14:30-15:00

주제 소개: 멀티모달 모델의 최첨단 학습에는 비디오, 이미지, 장문 텍스트를 포함한 PB 수준의 멀티모달 AI 데이터 처리가 필요합니다. 새로운 AI 데이터의 복잡성과 규모는 기존 데이터 인프라에 과제를 안겨줍니다.

Apache 라이선스를 사용하는 Lance 포맷은 Apache Arrow와 Apache Datafusion을 기반으로 하며, 핵심 기능은 Rust로 작성되었습니다. 개발팀은 Apache Hadoop, Apache HBase, Apache Iceberg, Apache Arrow, Delta Lake 출신의 PMC 멤버들로 구성되어 있습니다. Lance 포맷은 AI에 중점을 둔 새로운 컬럼 기반 저장 포맷이자 테이블 포맷으로, Apache Parquet, Apache Iceberg, Apache Hudi 프로젝트에서 깊은 영감을 받았습니다. Lance 포맷의 주요 특징은 랜덤 액세스와 무비용 스키마 진화인데, 이 두 가지 기능은 AI 엔지니어들이 선호하는 특징입니다. 이러한 특징들은 Lance를 Apache Parquet, Apache ORC, Apache Iceberg와 차별화하며, 멀티모달 AI의 피처 엔지니어링 및 학습에 더욱 적합합니다.

Lance 포맷은 MidJourney, WorldLabs, Runway ML, Character AI 등 많은 선도적인 AI 회사에서 채택되었습니다.

이 컨퍼런스는 LanceDB CTO인 Xu Lei(Apache Hadoop PMC 회원)와 ByteDance Volcano Engine 전문가인 Yang Hua(Apache Hudi PMC 회원)가 공동으로 발표합니다.

  • 최첨단 멀티모달 AI 기업의 워크로드를 지원하는 인프라 과제
  • Lance 포맷의 핵심 디자인 원칙
  • ByteDance Volcano Engine이 Lance 형식을 기반으로 Lance 데이터 레이크를 구축하고 세계 최고의 AI 기업을 지원하는 방식

발표자:

레이 쉬 | LanceDB CTO

LanceDB의 최고기술책임자(CTO). Apache Hadoop/HDFS PMC 멤버. 이전에는 Cruise Automation에서 머신러닝 플랫폼 및 데이터 인프라 팀을 이끌었습니다.

비노 양: 화산 엔진 기술 전문가, 랜스 커미터.

Volcano Engine 기술 전문가, 랜스 커미터. Apache Hudi/Kyuubi PMC 회원.


강연 주제: 양자 AI | 초지능 시대의 시작

나눔 시간: 7월 26일 15:00-15:30

주제 소개: 양자 컴퓨팅과 인공지능의 통합은 기존 컴퓨팅의 한계를 깨고 초지능 시대를 열 것입니다. 양자 강화 모델이 기하급수적인 학습을 달성하고, 복잡한 문제를 몇 초 만에 해결하며, 의사 결정 과정을 새롭게 정의할 수 있게 되면, AI가 인간의 이해 범위를 넘어서는 새로운 시대로 접어들게 될까요?

이 강연에서는 인공지능의 다음 전선에 대해 살펴보겠습니다. 특히 다음 사항에 초점을 맞춥니다.

양자 머신 러닝(QML): AI가 양자 역학을 사용하여 전례 없는 문제 해결 능력을 달성하는 방법

양자 신경망: AI가 상상할 수 없는 규모로 학습할 수 있을까?

양자 중첩과 병렬성: AI는 순차적 추론에서 다차원적 사고로 진화할 것인가?

이론적 영감: 양자 AI가 인공지능(ASI)의 초석이 될까요?

AI 기반 과학적 발견, 인간 이후의 지능, 그리고 잠재적인 지식 특이점을 향해 나아가는 이 시점에서 이 강연은 기존 AI 패러다임에 도전하고 AI가 더 이상 인간처럼 생각하지 않고 인간보다 훨씬 더 잘 생각할 수 있는 가능성을 탐구합니다.

발표자:

Prakul Hiremath | 비스베스바라야 공과대학, 학사 과정 학생, BIOLOOP CEO 겸 설립자

프라쿨 히레마스는 인도 VTU 벨라가비 출신의 연구원, 기술자, 혁신가로서 인공지능, 사이버 보안, 시스템 최적화의 교차점에서 연구하고 있습니다. 인공지능, 컴퓨팅 시스템, 그리고 미래 기술에 대한 깊은 열정을 가진 그는 AI 기반 사이버 보안, 의료 신호 분석, 그리고 인더스트리 4.0 혁신 연구에 적극적으로 참여하고 있습니다.

그의 연구는 AI 기반 위협 탐지, 예측 분석, 고성능 컴퓨팅을 아우르며, 지능형 시스템과 자율적 의사 결정의 경계를 확장하는 데 중점을 두고 있습니다. 또한 AI로 강화된 삶, 포스트휴먼 지능, 그리고 지식 진화를 탐구하며 미래 기술에 대한 획기적인 통찰력을 제공하기 위해 최선을 다하고 있습니다.

프라쿨은 AI 및 사이버 보안 연구 외에도 생명공학과 인공지능을 결합하여 지속가능성, 의료, 산업 자동화 분야의 최첨단 솔루션을 개발하는 혁신적인 연구 프로젝트인 바이올룹(Bioloop)에 적극적으로 참여하고 있습니다. 바이올룹은 생물학적 및 기술적 프로세스를 최적화하는 차세대 지능형 생태계를 구축하여 바이오 AI 시스템에 혁신을 가져오는 것을 목표로 합니다.

Community Over Code Asia 2025에서 프라쿨은 AI의 멈출 수 없는 성장, 그것이 가져오는 과제, 그리고 기술의 미래, 사회적 발전, 인간 지능에 미치는 심오한 영향에 대해 논의할 예정입니다.


주제: MCP를 사용할 것인가, 사용하지 않을 것인가? 개방형 프로토콜을 사용하여 구성 가능한 AI 시스템 설계

나눔 시간 : 7월 26일 15:45-16:15

주제 소개: AI 애플리케이션의 다각화로 인해 맞춤형 도구와 서비스의 지점 간 통합은 단편화 및 높은 유지 관리 비용 문제를 야기했습니다. 개방형 프로토콜인 모델 컨텍스트 프로토콜(MCP)은 표준화된 검색, 호출 및 상호작용 프로세스를 통해 AI 에이전트와 외부 도구 간의 통합된 연결 방식을 구축합니다. 본 발표에서는 현재 AI 생태계의 상호운용성 과제를 소개합니다. llama-nexus를 예로 들어, 네이티브로 개발된 MCP 서비스를 통해 AI 시스템의 구성 가능성과 유연한 오케스트레이션을 달성하는 방법을 보여줍니다. 마지막으로, AI 시스템의 상호 연결 및 상호운용성 증진, 통합 복잡성 감소, 혁신 촉진에 있어 개방형 프로토콜의 전략적 중요성과 구성형 AI 생태계의 향후 개발 방향에 대해 논의합니다. github.com/LlamaEdge/llama-nexus

발표자:

Miley Fu | CNCF 홍보대사, 오픈 소스 런타임 WasmEdge 창립 멤버

마일리는 개발자들이 오픈소스 프로젝트를 구축하고 기여할 수 있도록 지원하는 데 열정을 쏟는 개발자 전도사입니다. 그녀는 KubeCon+Open Source Summit 2024와 AI Dev China 2024의 공동 의장이자 기조 연설자입니다. CNCF 샌드박스 기반 WasmEdge 런타임의 창립 멤버로, 6년 이상 이 프로젝트에 참여해 왔으며 KubeCon, KCD, CloudDay Italy, DevRelCon, Japan Open Source Summit, AWS User Group, Global AI Note, KubeDay Singapore 등의 행사에서 발표를 진행했습니다. 마일리는 기술 콘텐츠를 작성하고 KCD 베이징, KCD 선전, WebAssembly & Rust 타이베이, 싱가포르 등의 밋업을 포함한 개발자 행사를 주최합니다.


연설 주제: 오픈 소스 AI 게이트웨이가 필요한 이유는 무엇인가?

나눔 시간: 7월 26일 16:15-16:45

주제 소개: AI 애플리케이션 폭발적인 성장 시대에 API 트래픽은 급증했지만, 비용 관리, 보안 규정 준수, 다중 모델 관리 등의 과제는 여전히 존재합니다. 세계에서 가장 활발한 오픈소스 API 게이트웨이인 Apache APISIX는 개발자와 기업에 원스톱 솔루션을 제공하기 위해 2025년에 AI 게이트웨이 기능을 공식 출시할 예정입니다.

왜 APISIX AI Gateway를 선택해야 하나요?

통합 AI 서비스 관리: OpenAI, Deepseek, QWen 등 주류 대형 모델에 대한 요청을 원활하게 프록시하고, 공급업체에 종속되는 것을 피하고, 동적 트래픽 오케스트레이션을 통해 비용/성능을 최적화합니다.

보안 및 규정 준수: 내장된 AI 보호 플러그인(악성 입력을 필터링하는 ai-prompt-guard, 토큰 기반 속도 제한을 구현하는 ai-rate-limiting 등)은 데이터 개인 정보 보호 및 규정 준수를 보장합니다.

개발자 중심 경험: 핫 리로드 플러그인, 다국어 지원(Java/Python/Go), 마이크로서비스 및 Kubernetes 생태계와의 기본 통합.

개발자든 기업이든 APISIX AI Gateway를 사용하면 AI 애플리케이션 구현을 가속화하고 혁신의 잠재력을 발휘할 수 있습니다.

발표자:

왕위안셩(Yuansheng Wang) |API7.ai, CTO

Apache APISIX PMC 회원 Apache Foundation 회원.


🌟 아래 QR코드를 클릭하시면 스캔하여 티켓을 구매하실 수 있습니다.

수량이 한정되어 있으니 꼭 참여하세요 👆