뉴스탭
뉴스컴퓨팅
엔비디아, 구글과 협력해 AI 모델 ‘젬마’ 최적화
최인훈 기자  |  news@newstap.co.kr
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
승인 2024.02.24  13:38:29
트위터 페이스북 미투데이 요즘 네이버 구글 msn

엔비디아(www.nvidia.co.kr)가 구글(Google)과 협력해 모든 엔비디아(NVIDIA) AI 플랫폼에서 AI 모델 ’젬마(Gemma)’를 위한 최적화를 실시했다고 밝혔다. 이를 통해 비용을 절감하고 도메인별 용도에 따라 작업 속도를 혁신적으로 높였다.

어디서나 실행 가능한 젬마는 구글의 새로운 경량 오픈 언어 모델로, 20억(2B) 파라미터와 70억(7B) 파라미터 크기로 제공된다.

젬마는 구글의 멀티모달 모델인 제미나이(Gemini) 개발에 사용된 동일한 연구와 기술을 기반으로 구축됐다. 엔비디아는 구글과 긴밀히 협력해 엔비디아 텐서RT-LLM(TensorRT-LLM)으로 젬마의 성능을 가속화했다. 텐서RT-LLM은 데이터센터, 클라우드 혹은 엔비디아 RTX GPU가 탑재된 PC에서 대규모 언어 모델(LLM) 추론을 최적화하는 오픈 소스 라이브러리이다.

이를 통해 개발자는 전 세계 고성능 AI PC에 탑재된 1억 개 이상의 엔비디아 RTX GPU를 활용할 수 있다.

개발자들은 클라우드 상의 엔비디아 GPU에서도 젬마를 실행할 수 있다. 여기에는 H100 텐서 코어(H100 Tensor Core) GPU를 기반으로 하는 구글 클라우드 A3인스턴스(A3 instances)가 포함되며, 초당 4.8테라바이트의 141GB HBM3e 메모리를 갖춘 엔비디아 H200 텐서 코어 GPU도 합류할 예정이다. 구글은 올해 안에 이를 배포할 예정이라고 전했다.

엔비디아는 네모 프레임워크(NeMo Framework)가 적용된 엔비디아 AI 엔터프라이즈(AI Enterprise)와 텐서RT-LLM을 비롯한 광범위한 도구를 갖추고 있다. 엔터프라이즈 개발자들은 이들을 추가로 활용해 젬마를 미세 조정하고 최적화된 모델을 프로덕션 애플리케이션에 배포할 수 있다.

여기에서 개발자를 위한 추가 정보와 함께 텐서RT-LLM이 젬마의 추론을 개선하는 방법에 대해 자세히 알아볼 수 있다. 여기에는 젬마의 여러 모델 체크포인트와 FP8 정량화 버전 모델이 포함되며 모두 텐서RT-LLM으로 최적화돼 있다.

또한, 엔비디아 AI 플레이그라운드(AI Playground)를 통해 브라우저에서 직접 젬마 2B와 젬마 7B를 체험해 볼 수 있다.

젬마, 챗 위드 RTX(Chat with RTX)에 등장
엔비디아 기술 데모인 챗 위드 RTX에 곧 젬마가 추가로 지원될 예정이다. 챗 위드 RTX는 검색 증강 생성(Retrieval-augmented generation, RAG)과 텐서RT-LLM 소프트웨어를 사용해 로컬 RTX 기반 윈도우(Windows) PC에서 사용자에게 생성형 AI 기능을 제공하는 기술이다.

사용자는 챗 위드 RTX를 통해 PC의 로컬 파일을 LLM에 쉽게 연결하고 자신의 데이터로 챗봇을 개인화 할 수 있다.

챗 위드 RTX는 로컬에서 모델이 실행되므로 결과가 빠르게 제공되며 사용자 데이터가 디바이스에 유지된다. 클라우드 기반 LLM 서비스에 대신 챗 위드 RTX를 사용하면 민감한 데이터를 제3자와 공유하거나 인터넷에 연결할 필요 없이 로컬 PC에서 처리할 수 있다.

최인훈 기자의 다른기사 보기  
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
트위터 페이스북 미투데이 요즘 네이버 구글 msn 뒤로가기 위로가기
가장 많이 본 기사
1
블루죤, 기가바이트 G5 KF5-H3KR, AI 게이밍 노트북 출시
2
세련된 오브제로 주목받는 스마트TV '라익미 스마트 N55 오프화이트 제로베젤 THE AI 구글 TV'
3
코멕스, 봄 피크닉에 딱 어울리는 ‘에코 클리어 보관용기’ 10종 세트 현대홈쇼핑서 특가 판매
4
SUPER 사고 메모리 받고! ‘ZOTAC RTX 40 SUPER 시리즈’ 블로그 후기 이벤트 진행
5
하얏트, 토끼 캐릭터 ‘베니’와 국내 첫 카카오톡 이모티콘 출시
6
이케아 코리아, 비즈니스 공간 위한 카페 가구 할인 행사 진행
7
코지마, 롯데홈쇼핑서 ‘전신 마사지 패키지’ 첫 생방송 진행
8
ipTIME, 5포트 및 8포트 스위칭 허브 6종 출시
9
인텔 공인대리점 3사, ‘설레는 봄엔 퀴즈 풀어봄’ 인텔 정품 CPU 퀴즈 프로모션 실시
10
다크플래쉬, 기본에 충실한 4포트 USB 3.0 허브 DHUB20 시리즈 2종 출시
신문사소개기사제보광고문의불편신고개인정보취급방침청소년보호정책이메일무단수집거부
서울특별시 영등포구 영신로34길 10 영남빌딩 5층 504호  |  대표전화 : 070-7527-0410
등록번호 : 서울특별시 자00408  |  등록년월일 : 2013년 4월 15일
발행인 : (주)이노엠앤엠 이준문  |  편집인 : 이준문  |  청소년보호책임자 : 이준문
Copyright © 2013 뉴스탭. All rights reserved. mail to news@newstap.co.kr