1nfratech1nfra Tech

[AI] Ollama와 Open WebUI로 로컬 LLM 서버 구축

Ollama는 내 PC나 GPU 서버에서 오픈 웨이트 LLM을 내려받아 실행하고 API로 제공하는 도구이고, Open WebUI는 그 API에 붙는 ChatGPT 형태의 웹 화면입니다. 둘을 함께 쓰면 데이터를 외부로 보내지 않는 사내용 챗봇을 몇 개의 명령으로 만들 수 있습니다. 다만 작은 모델은 질문이 모호하면 엉뚱하게 답하고, 버전과 설정에 따라 동작이 달라지므로 모델 크기와 설정을 직접 확인하며 쓰는 것이 중요합니다. 이 글에서는 Ollama와 Open WebUI의 구성을 정리하고, M1 Pro 맥북에서 gemma4와 qwen3.5를 실행해 속도, 메모리, API 호출, 웹 화면까지 확인합니다.1. 로컬 LLM을 쓰는 이유ChatGPT나 Claude 같은 서비스는 성능이 가장 좋지만, 입력한 데이..

[AI] Claude Code에 MCP 서버 연결하기

Claude Code에 MCP 서버를 연결하면 사내 DB 조회나 사내 API처럼 기본 도구로 할 수 없던 일을 도구로 추가할 수 있습니다. 서버는 claude mcp add 명령 한 줄로 등록하며, 설정을 어디에 저장할지(scope)에 따라 나만 쓰는 서버가 될 수도 있고 git으로 팀과 공유하는 서버가 될 수도 있습니다. 연결된 서버의 도구는 mcp__서버__도구 형식의 이름을 가지며, 이 이름으로 권한 규칙과 hook을 걸어 실행 범위를 제한하고 호출 기록을 남깁니다. 이 글에서는 서버 등록 방법과 scope, 권한 규칙을 정리하고, AI 에이전트와 MCP 개념 정리에서 만든 읽기 전용 디스크 조회 서버를 Claude Code에 연결해 권한과 감사 로그가 어떻게 동작하는지 확인합니다.1. Claude..

[AI] 하네스 엔지니어링 개념 정리

하네스(harness)는 AI 에이전트에서 모델을 뺀 나머지 전부입니다. 모델에 무엇을 보여 줄지 정하는 컨텍스트, 모델이 요청한 도구를 실행하는 루프, 무엇을 허용하고 막을지 정하는 권한, 결과를 확인하는 검증이 모두 하네스에 속합니다. 같은 모델이라도 하네스에 따라 결과가 크게 달라지기 때문에, 에이전트가 처음부터 맞게 일하고 틀리면 스스로 고치도록 이 환경을 설계하는 일을 하네스 엔지니어링이라고 부릅니다. 이 글에서는 하네스의 구성 요소와 가이드, 센서 개념을 정리하고, Claude Code에서 CLAUDE.md와 hook으로 kubectl 삭제 명령을 막았을 때 결과가 어떻게 다른지 확인합니다.1. 하네스란harness는 원래 말에 채우는 마구를 뜻합니다. 말의 힘은 그대로 두고 그 힘이 원하는 ..

[AI] Claude 개념 정리

Claude는 Anthropic이 만든 대규모 언어 모델(LLM) 제품군이자, 그 모델을 쓰는 앱과 개발 도구를 함께 부르는 이름입니다. 같은 모델을 웹과 데스크톱 앱, 터미널의 Claude Code, API, 그리고 AWS, Google Cloud, Microsoft Foundry 같은 클라우드에서 쓸 수 있어서, 무엇을 쓸지보다 어떤 경로로 쓸지를 먼저 정하는 편이 이해가 빠릅니다. 이 글에서는 Claude의 모델 라인업과 쓰는 방법, 다른 LLM과 다른 점을 정리하고 Claude Code로 Pod 로그를 분석하는 과정을 확인합니다.1. Claude란Claude를 이야기할 때는 두 가지를 구분해야 합니다. 하나는 텍스트와 이미지를 입력받아 텍스트를 생성하는 모델 자체이고, 다른 하나는 그 모델 위에 ..

Helm은 여러 Kubernetes 매니페스트를 차트 하나로 묶고, 환경마다 다른 값만 바꿔 끼워 배포하게 해 주는 패키지 매니저입니다. 이 글에서는 차트의 구조와 템플릿 문법, 값이 적용되는 우선순위, 배포 이력을 남기는 릴리스와 롤백을 정리하고, 직접 만든 차트로 설치부터 롤백까지 확인합니다. Helm 4에서 바뀐 플래그와 Kustomize, ArgoCD와 함께 쓸 때 주의할 점도 함께 다룹니다.컨테이너부터 Kubernetes까지 시리즈의 3부 실무 글입니다. 차트 안에 들어가는 Deployment와 ConfigMap은 [Kubernetes] Pod, ReplicaSet, Deployment 정리와 [Kubernetes] ConfigMap과 Secret 정리에서 다뤘고, 전체 순서는 시리즈 목차에 있..

Ubuntu에 Docker를 설치하는 방법부터 이미지·컨테이너 명령, docker run 옵션, docker commit, Dockerfile 명령어, 디스크 정리까지 자주 찾아보는 내용을 한 글에 모았습니다. 개념 설명은 시리즈 본편에 맡기고, 이 글은 필요할 때 펼쳐 보는 레퍼런스로 씁니다.컨테이너부터 Kubernetes까지 시리즈의 부록입니다. 명령이 왜 그렇게 동작하는지는 [Docker] 컨테이너 개념 정리부터 차례로 보면 되고, 전체 순서는 시리즈 목차에 있습니다. 명령과 출력은 Docker Engine 29, Ubuntu 24.04 기준입니다.1. Ubuntu에 Docker 설치설치 방법은 두 가지입니다. 운영 서버는 Docker 공식 apt 저장소를 등록해서 설치하고, 테스트용 VM처럼 빨리..

Kubernetes는 Pod가 CPU와 메모리를 얼마나 쓸지 알아야 노드에 알맞게 배치하고, 한 Pod가 노드 자원을 다 쓰지 못하게 막을 수 있습니다. 이 글에서는 requests와 limits의 차이, 한도를 넘었을 때의 동작, QoS 클래스를 정리하고, 부하에 따라 Pod 수를 조절하는 HPA를 kind에서 직접 확인합니다.컨테이너부터 Kubernetes까지 시리즈 11편입니다. 이전 글은 [Kubernetes] Volume, PV, PVC, StorageClass 정리이고, 전체 순서는 시리즈 목차에 있습니다.1. requests와 limits컨테이너마다 resources.requests와 resources.limits를 정할 수 있습니다. requests는 "최소 이만큼은 필요하다"는 예약이고,..

Pod 안에서 쓴 파일은 Pod가 다시 만들어지면 사라지므로, 남겨야 하는 데이터는 Pod 밖의 저장소에 둬야 합니다. 이 글에서는 Pod에 붙이는 Volume의 종류, 저장소를 요청하는 PVC와 실제 저장소인 PV, 저장소를 자동으로 만들어 주는 StorageClass의 관계를 정리하고, 9편의 Redis에 PVC를 붙여 데이터가 남는지 확인합니다.컨테이너부터 Kubernetes까지 시리즈 10편입니다. 이전 글은 [Kubernetes] ConfigMap과 Secret 정리이고, 전체 순서는 시리즈 목차에 있습니다.1. Pod의 Volume2편에서 본 것처럼 컨테이너가 쓴 파일은 쓰기 계층에 남고 컨테이너와 함께 사라집니다. Kubernetes에서는 Pod가 수시로 다시 만들어지므로 이 문제가 더 자주..

같은 이미지를 개발과 운영에서 함께 쓰려면 환경마다 달라지는 설정 값과 비밀번호를 이미지 밖에 둬야 합니다. 이 글에서는 설정을 담는 ConfigMap과 비밀 값을 담는 Secret을 Pod에 넣는 두 가지 방법, 값을 바꿨을 때의 반영 방식, 그리고 Secret을 안전하게 다루는 방법을 Redis 예제로 정리합니다.컨테이너부터 Kubernetes까지 시리즈 9편입니다. 이전 글은 [Kubernetes] Service와 Ingress, Gateway API 정리이고, 전체 순서는 시리즈 목차에 있습니다.1. 설정을 이미지 밖으로DB 주소나 로그 레벨 같은 값을 이미지 안에 넣으면 환경마다 이미지를 따로 빌드해야 하고, 개발에서 확인한 이미지와 운영에 올라가는 이미지가 달라집니다. 그래서 이미지는 하나로 ..

Pod는 다시 만들어질 때마다 IP가 바뀌므로, Kubernetes에서는 Service가 고정된 이름과 IP를 주고 뒤의 Pod로 요청을 나눠 보냅니다. 이 글에서는 Service의 동작과 타입, 클러스터 DNS, 그리고 HTTP 요청을 경로와 호스트 이름으로 나눠 보내는 Ingress와 그 후속인 Gateway API를 정리합니다.컨테이너부터 Kubernetes까지 시리즈 8편입니다. 이전 글은 [Kubernetes] Pod, ReplicaSet, Deployment 정리이고, 전체 순서는 시리즈 목차에 있습니다.1. Service가 필요한 이유7편에서 본 것처럼 Pod는 지워지고 다시 만들어질 때마다 이름과 IP가 바뀌고, 롤링 업데이트를 하면 모든 Pod가 새 IP로 바뀝니다. 그래서 다른 앱이 P..