분류 전체보기163 상용 LLM과 로컬 LLM, 무엇을 써야 할까 — 정답은 ‘라우팅’이다 상용 LLM과 로컬 LLM, 무엇을 써야 할까 — 정답은 ‘라우팅’이다기업이 생성형 AI를 도입할 때 흔히 ‘상용 LLM이냐, 로컬 LLM이냐’를 선택 문제로 생각합니다. 그러나 실제 운영에서는 두 방식이 경쟁 관계라기보다 역할 분담 관계에 가깝습니다.상용 LLM의 강점상용 LLM은 최신 모델 성능, 운영 편의성, 멀티모달 기능, 도구 연동 생태계에서 강합니다. 별도의 GPU 클러스터를 구축하지 않고도 고성능 추론과 문서 처리, 코드 보조 기능을 빠르게 사용할 수 있습니다.로컬 LLM의 강점사내 또는 전용 인프라에서 운영하는 로컬 LLM은 데이터 통제와 정책 반영이 쉽습니다. 내부 문서 검색, 설계 자료 분석, 제조 로그 처리처럼 외부 전송이 부담스러운 작업에서는 로컬 모델의 가치가 커집니다. 로컬이라는.. 2026. 9. 16. MCP와 WebAssembly가 만날 때 — AI 도구를 어디서 실행할 것인가 MCP와 WebAssembly가 만날 때 — AI 도구를 어디서 실행할 것인가AI 에이전트가 수많은 도구를 사용하려면 ‘무엇을 호출할지’뿐 아니라 ‘어디에서 실행할지’를 결정해야 합니다. 이 문제를 이해하려면 MCP와 엣지·클라우드·HPC 사이의 실행 배치를 함께 봐야 합니다.MCP가 해결하려는 문제Model Context Protocol(MCP)은 LLM 클라이언트와 도구 서버 사이의 상호작용을 표준화하려는 프로토콜입니다. 도구, 자원, 프롬프트의 접근 방식을 공통 형태로 만들어 에이전트와 도구를 매번 일대일로 통합해야 하는 부담을 줄여 줍니다.하지만 기능과 위치는 다르다같은 이미지 분석 도구라도 노트북에서 실행할 때와 사내 서버, 엣지 장비, GPU 클러스터에서 실행할 때의 성능과 보안 조건은 전혀 .. 2026. 9. 16. AI 에이전트가 슈퍼컴퓨터를 직접 움직인다 — 과학 컴퓨팅의 새로운 운영 방식 AI 에이전트가 슈퍼컴퓨터를 직접 움직인다 — 과학 컴퓨팅의 새로운 운영 방식과학 컴퓨팅의 작업 방식은 오랫동안 사람이 배치 스크립트를 작성하고 자원을 선택하는 형태였습니다. 최근에는 LLM 기반 AI 에이전트가 목표를 이해하고 도구를 선택해 워크플로우 자체를 조립하는 방향으로 변하고 있습니다.그리드에서 컴퓨팅 연속체로그리드 컴퓨팅은 여러 지역의 슈퍼컴퓨터를 묶었고, 클라우드는 자원의 탄력성을, 엣지는 데이터 발생 지점 가까이의 연산을 가능하게 했습니다. 최근의 흐름은 이들을 따로 보지 않고 하나의 ‘Computing Continuum’으로 연결하는 것입니다. 데이터가 어디에서 생기고, 어디에서 처리하는 것이 가장 합리적인지에 따라 실행 위치가 바뀝니다.에이전트는 무엇을 하는가AI 에이전트는 단순한 챗봇.. 2026. 9. 16. AI 시대, 왜 다시 HPC인가 — GPU만 빠르면 되는 시대는 끝났다 AI 시대, 왜 다시 HPC인가 — GPU만 빠르면 되는 시대는 끝났다생성형 AI와 초거대 모델의 확산은 HPC의 의미를 바꾸고 있습니다. 예전의 HPC가 ‘어려운 계산을 빨리 끝내는 슈퍼컴퓨터’에 가까웠다면, 이제는 GPU·네트워크·스토리지·메모리·운영 소프트웨어가 하나의 시스템처럼 맞물려 움직이는 AI 인프라에 가깝습니다.HPC의 역할이 바뀌고 있다대규모 언어모델과 과학 AI는 단순한 연산량만 요구하지 않습니다. 방대한 학습 데이터를 안정적으로 공급해야 하고, 수천 개 GPU 사이의 통신을 조정해야 하며, 모델 파라미터와 KV Cache를 메모리에 효율적으로 배치해야 합니다. 여기에 장애 대응과 보안, 데이터 주권까지 포함되면서 HPC는 ‘계산 장비’가 아니라 ‘AI 운영 기반’으로 진화하고 있습니다.. 2026. 9. 16. 임베디드기사 실기 20부작 10편 ## SRAM과 DRAM, Refresh부터 Memory Management까지 임베디드기사 실기 20부작 10편SRAM과 DRAM, Refresh부터 Memory Management까지이번 글은 통합 학습교재의 SRAM/DRAM 정리 내용을 바탕으로 구성했습니다. SRAM은 플립플롭 구조를 사용해 전원이 공급되는 동안 Refresh 없이 데이터를 유지하고, DRAM은 커패시터에 전하를 저장하므로 주기적인 Refresh가 필요하다는 차이를 중심으로 설명합니다.1. 메모리를 왜 구분해서 봐야 할까?임베디드 시스템에서 메모리는 단순히 데이터를 저장하는 공간이 아닙니다. CPU가 얼마나 빠르게 접근해야 하는지, 얼마나 큰 용량이 필요한지, 전원이 꺼진 뒤에도 데이터를 유지해야 하는지에 따라 선택이 달라집니다. 실기에서는 SRAM과 DRAM의 구조·속도·Refresh·용도를 비교하는 문제가.. 2026. 9. 16. 임베디드기사 실기 20부작 9편 ## Linux System Call과 ioctl() — User Space에서 Hardware까지 가는 길 임베디드기사 실기 20부작 9편Linux System Call과 ioctl() — User Space에서 Hardware까지 가는 길앞선 연재에서는 Device Driver, /dev Device Node, mknod, Major/Minor Number가 어떻게 연결되는지 살펴봤습니다. 이번 편에서는 그 다음 질문으로 넘어가겠습니다. 사용자가 작성한 C 프로그램이 실제로 하드웨어를 움직이기 위해서는 어떤 문을 통과해야 할까요?핵심은 System Call입니다. User Space Application이 Kernel Space에 있는 Device Driver의 기능을 요청하는 공식 통로가 바로 System Call이며, 그중에서도 장치별 특수 명령을 전달하는 대표적인 인터페이스가 ioctl()입니다.1. .. 2026. 9. 16. 이전 1 ··· 17 18 19 20 21 22 23 ··· 28 다음