전체 글
-
온디바이스 언어모델 기술 스택의 전반적인 구조카테고리 없음 2024. 11. 26. 06:53
온디바이스 언어모델 기술 스택의 전반적인 구조온디바이스 언어모델 기술은 크게 3가지 레이어로 나눌 수 있습니다:언어모델 자체 (Software Layer)디바이스와 하드웨어 (Hardware Layer)연동 및 배포 환경 (Integration & Deployment Layer)1. 소프트웨어 레이어: 언어모델과 최적화 기술(1) 언어모델 자체대규모 언어모델(LLM)을 디바이스에서 실행하려면 크기와 성능의 균형을 맞추는 것이 중요합니다.주로 사용하는 기술:BERT, GPT, ET5 등 다양한 언어모델을 온디바이스에 맞게 변형.경량화 기법을 통해 모델 크기를 줄이고 실행 속도를 최적화.(2) 모델 경량화 기법양자화 (Quantization): 모델의 파라미터를 32비트에서 8비트 또는 4비트로 줄여 메모리..
-
키오스크를 위한 온디바이스 언어모델과 접근성 강화 전략카테고리 없음 2024. 11. 26. 06:44
키오스크를 위한 온디바이스 언어모델과 접근성 강화 전략1. 사업 배경2024년부터 한국은 ‘장애인차별금지 및 권리구제 등에 관한 법률 시행령’에 따라 공공기관 및 민간시설에서 장애인과 고령자들이 이용할 수 있는 키오스크와 모바일앱의 접근성을 의무화합니다. 이 변화는 기술적 혁신을 통해 정보 접근성을 높이고, 포용적인 디지털 환경을 조성할 수 있는 기회를 제공합니다.퀀텀아이는 온디바이스 언어모델 기술과 이미지 처리 기술을 결합하여, 키오스크의 접근성을 혁신적으로 개선할 수 있는 솔루션을 제안합니다. 이를 통해, 키오스크 제조업체 및 운영업체와 협력하여 장애인과 고령자를 포함한 모든 사용자를 위한 기술 표준을 선도하려 합니다.2. 온디바이스 언어모델의 키오스크 적용 가능성온디바이스 언어모델은 클라우드 의존도..
-
퀀텀아이, ETRI, 그리고 다양한 디바이스 제조사와의 협업 전략 제안카테고리 없음 2024. 11. 17. 08:00
퀀텀아이, ETRI, 그리고 다양한 디바이스 제조사와의 협업 전략 제안다양한 디바이스 제조사들과 협력하여 퀀텀아이와 ETRI가 가진 언어모델 최적화 기술을 활용할 수 있는 방안을 제시합니다. 온디바이스 언어모델을 활용해 AI 기반 솔루션을 다양한 디바이스에 확산시키는 전략은, 특정 브랜드에 의존하지 않고 시장 다각화를 통해 더 넓은 기회를 확보할 수 있습니다. 이를 통해 퀀텀아이는 독립적인 기술력과 시장 유연성을 바탕으로 B2B 시장에서의 경쟁력을 더욱 강화할 수 있습니다.1. 협업의 필요성 및 목표협업의 필요성퀀텀아이는 언어모델 최적화와 SI 전문성으로 온디바이스 AI 솔루션을 제공할 수 있는 역량을 보유하고 있으며, 이를 다양한 제조사와의 협력을 통해 확대하고자 합니다.ETRI는 언어모델 기술 개발에..
-
삼성전자, ETRI, 퀀텀아이의 협업 전략 제안카테고리 없음 2024. 11. 17. 01:57
삼성전자, ETRI, 퀀텀아이의 협업 전략 제안삼성전자, ETRI(한국전자통신연구원), 그리고 퀀텀아이는 각자의 강점을 결합하여 AI 기술, 특히 온디바이스 언어모델 분야에서 협력함으로써, 글로벌 AI 시장에서 경쟁력을 높이고, 각자의 사업 목표를 더욱 효과적으로 달성할 수 있는 전략을 마련할 수 있습니다. 이 협업은 연구개발, 상업화, 기술 이전, 그리고 시장 확장에 걸쳐 다양한 형태로 진행될 수 있습니다. 아래에서 각 기관의 강점을 기반으로 협업 전략을 제시합니다.1. 협업의 필요성 및 목표협업의 필요성삼성전자는 AI 반도체와 스마트 디바이스를 보유하고 있으며, 이를 활용한 프리미엄 사용자 경험을 제공하려 합니다. 그러나 최신 언어모델의 도입과 최적화를 위해서는 더 많은 연구개발 및 모델 경량화 기술..
-
삼성 갤럭시에 적용된 AI 반도체 기술 및 최신 언어모델 적용 시 고려해야 할 사항카테고리 없음 2024. 11. 17. 01:55
삼성 갤럭시에 적용된 AI 반도체 기술 및 최신 언어모델 적용 시 고려해야 할 사항삼성전자는 최신 갤럭시 시리즈에 최첨단 AI 반도체 기술을 적용하여 사용자 경험을 강화하고 있습니다. 특히, AI 기반의 기능이 스마트폰의 성능을 한층 높이기 위해 온디바이스 AI(On-device AI)를 활용하고 있으며, 이를 통해 최신 언어모델(LLM, Large Language Models)을 효과적으로 구현하려고 합니다. 아래에서 갤럭시에 탑재된 AI 반도체 기술 및 최신 언어모델 적용 시 고려해야 할 사항을 설명합니다.1. AI 반도체 기술 개요: 엑시노스 2400 프로세서 및 NPU 활용삼성 갤럭시 최신 기종에는 엑시노스 2400 프로세서와 NPU(Neural Processing Unit)가 탑재되어, AI 연..
-
삼성전자의 AI 반도체 전략 분석카테고리 없음 2024. 11. 17. 01:45
삼성전자의 AI 반도체 전략 분석삼성전자는 AI 반도체 기술 개발을 통해 차세대 반도체 시장에서 경쟁력을 확보하려는 전략을 지속적으로 추진하고 있습니다. 특히, 온디바이스 AI와 데이터 센터 AI 가속기를 동시에 겨냥한 포트폴리오를 구축하며 글로벌 반도체 시장에서의 리더십을 강화하고 있습니다. 아래는 삼성전자의 AI 반도체 관련 전략을 심층 분석한 내용입니다.1. AI 반도체의 중요성과 삼성전자의 비전AI 반도체는 인공지능(AI) 기술 발전의 핵심 인프라로 자리 잡고 있습니다. 특히 엣지 컴퓨팅, 클라우드 AI, 데이터 센터, IoT와 같은 다양한 영역에서 AI 반도체의 수요가 급증하고 있습니다. 삼성전자는 메모리 반도체와 비메모리 반도체 분야에서 강력한 경쟁력을 갖추고 있으며, AI 반도체 분야에서도 ..
-
투자 제안서: ETRI와 퀀텀아이의 협력을 통한 온디바이스 언어모델 솔루션 개발카테고리 없음 2024. 11. 13. 11:37
투자 제안서: ETRI 와 퀀텀아이의 협력을 통한 온디바이스 언어모델 솔루션 개발1. 제안 배경퀀텀아이의 비전과 현재 상황: 퀀텀아이는 현재 온디바이스 언어모델 솔루션을 목표로 하고 있는 초기 단계의 기업입니다. 대표자는 인공지능 언어모델 분야에서 깊은 전문성과 경험을 보유한 권위자로, 향후 SI(시스템 통합) 프로젝트와 투자 유치를 통해 온디바이스 솔루션을 개발하고자 합니다.ETRI와의 협력 가능성: ETRI(한국전자통신연구원)는 언어모델 개발에 있어 선도적인 기술력을 보유하고 있으며, 퀀텀아이는 ETRI의 연구성과를 온디바이스 환경에 최적화하고 상용화하는 가교 역할을 할 수 있습니다.2. 협력의 필요성 및 제안 요약ETRI 기술의 실질적 활용: ETRI가 보유한 대형 언어모델(예: ET5 등)을 온디..
-
디바이스 임베딩 언어모델과 퀀텀아이의 사업 전략카테고리 없음 2024. 11. 10. 09:39
디바이스에 언어모델을 임베딩하는 기술은 인공지능(AI)과 하드웨어의 결합을 통해 언어모델이 로컬 디바이스에서 직접 실행되도록 구현하는 기술입니다. 이를 통해 클라우드에 의존하지 않고도 디바이스에서 AI 기반의 지능형 상호작용을 가능하게 합니다. 특히, 이 기술은 보안, 개인정보 보호, 낮은 지연 시간 등의 이점으로 B2B 및 IoT(Internet of Things) 시장에서 큰 주목을 받고 있습니다.1. 임베디드 언어모델의 핵심 기술 요소디바이스에 언어모델을 임베딩하기 위해서는 다양한 하드웨어와 소프트웨어 기술이 필요합니다. 여기에는 경량화된 언어모델, 하드웨어 가속기(예: AI 전용 칩), 온디바이스 머신러닝 프레임워크가 포함됩니다.(1) 모델 경량화 (Model Optimization)대규모 언어모..