혹시 스마트폰 배터리가 하루 종일 버텨주길 바라면서도, 동시에 더 똑똑한 AI 기능을 원해본 적 있으신가요? 이 두 가지가 양립하기 어려웠던 건 AI 처리에 필요한 엄청난 전력 때문이었는데요. 그런데 최근 이런 딜레마를 해결할 수 있는 흥미로운 기술이 등장했어요.
베리실리콘과 구글이 손을 잡고 '코럴 NPU IP'라는 혁신적인 기술을 오픈소스로 공개했거든요. 이 기술의 핵심은 바로 '상시작동하면서도 초저전력으로 동작하는 AI'라는 점이에요. 쉽게 말해, 배터리를 거의 소모하지 않으면서도 24시간 내내 AI가 켜져 있을 수 있다는 뜻이죠.
NPU는 Neural Processing Unit의 줄임말로, AI 전용 프로세서라고 생각하시면 돼요. 기존의 CPU나 GPU가 AI 작업을 처리할 때보다 훨씬 효율적이고 빠르게 작업할 수 있어요. 특히 이번에 공개된 코럴 NPU는 오픈소스 RISC-V 아키텍처를 기반으로 만들어져서, 누구나 자유롭게 사용하고 개선할 수 있다는 장점이 있어요.
이 기술이 특히 주목받는 이유는 대규모 언어 모델, 즉 LLM을 작은 디바이스에서도 돌릴 수 있게 해준다는 점이에요. 지금까지는 ChatGPT 같은 AI를 사용하려면 인터넷에 연결해서 거대한 서버의 도움을 받아야 했는데, 이제는 웨어러블 기기나 스마트 홈 기기 안에서 직접 처리할 수 있게 되는 거죠.
구글의 오픈 머신러닝 컴파일러 연구를 기반으로 한 이 기술은 JAX, PyTorch, TensorFlow Lite 같은 주요 머신러닝 프레임워크들을 모두 지원해요. 개발자들이 기존에 사용하던 도구들을 그대로 활용할 수 있다는 뜻이에요. 또한 LLVM 프로젝트의 MLIR 같은 오픈 표준 도구들도 활용할 수 있어서, 개발 생태계의 호환성도 뛰어나요.
베리실리콘의 왕위웨이(Wiseway Wang) 부사장은 "이번 협력은 구글의 오픈소스 기술과 베리실리콘의 칩 설계 및 상용화 역량이 깊이 통합된 결과"라고 설명했어요. 실제로 베리실리콘은 이미 코럴 NPU IP를 기반으로 한 검증 칩을 개발 중이며, 특히 AR 글래스와 스마트 홈 애플리케이션을 겨냥하고 있다고 해요.
이 기술이 상용화되면 우리 일상에 어떤 변화가 있을까요? 예를 들어, 스마트워치가 인터넷 연결 없이도 복잡한 질문에 답해주거나, 스마트 홈 기기들이 더 자연스러운 대화를 할 수 있게 될 거예요. 또한 개인정보가 기기 밖으로 나가지 않아도 되니까 보안과 프라이버시 측면에서도 훨씬 안전하죠.
흥미로운 점은 이 모든 기술이 오픈소스로 공개된다는 거예요. 구글 개발자 웹사이트에서 전 세계 개발자들이 자유롭게 접근할 수 있어요. 이는 AI 기술의 민주화라고 할 수 있는데, 큰 기업들만이 아니라 작은 스타트업이나 개인 개발자들도 첨단 AI 기술을 활용할 수 있게 되는 거거든요.
물론 베리실리콘은 상업용 엔터프라이즈급 버전도 따로 제공할 예정이에요. 기업들이 실제 제품에 적용할 때 필요한 안정성과 지원 서비스를 함께 제공하겠다는 의미죠. 원스톱 맞춤형 실리콘 서비스도 제공한다고 하니, 기업들 입장에서는 꽤 매력적인 선택지가 될 것 같아요.
이런 움직임은 AI 업계 전체에 큰 파급효과를 불러올 것 같아요. 지금까지는 클라우드 중심의 AI 서비스가 주류였다면, 앞으로는 각 기기에 탑재된 AI가 더 중요해질 수도 있거든요. 특히 실시간 반응이 중요한 애플리케이션이나, 네트워크 연결이 불안정한 환경에서는 엣지 AI가 필수적이죠.
앞으로 우리가 사용하는 모든 전자기기에 이런 저전력 AI 칩이 들어갈 날이 멀지 않은 것 같아요. 여러분은 어떤 기기에 이런 AI 기능이 들어가면 가장 유용할 것 같나요? 그리고 개인정보 보호와 편의성, 이 두 가지 중 어느 쪽이 더 중요하다고 생각하세요?
