좋은 프롬프트로 문의를 분류할 수는 있다.하지만 최신 반품 정책을 검색하고, 실제 주문 상태를 확인한 뒤, 필요한 후속 조치까지 수행하려면 어떻게 해야 할까?이때는 프롬프트뿐 아니라 외부 데이터와 도구, 작업 흐름, 실행 환경까지 함께 고려해야 한다. 이 글에서는 Prompt Engineering부터 RAG, Tool Use, AI Agent, Context Engineering, Harness Engineering까지 주요 개념을 살펴보고, 각각 어떤 역할을 하는지 정리한다.소개하는 개념들은 기술의 발전 단계를 의미하지 않는다. 서로 다른 설계 요소이며, 하나의 AI 시스템 안에서 함께 활용될 수 있다. 프롬프트에서 RAG와 Tool Use로Prompt Engineering : 모델에 작업 목표, 제..

“너는 이 분야의 전문가야”라고 쓰면 답변이 더 정확해질까?AI에게 질문할 때 한 번쯤 사용해 봤을 법한 문장이다.역할 지정은 답변의 관점과 말투를 정하는 데 도움이 되지만, 실제 정확성이나 전문성을 보장하지는 않는다.최근 (2026년 10월) 프롬프트 엔지니어링에서는 역할 지정뿐 아니라 작업의 목적, 필요한 맥락, 제약 조건, 출력 형식, 결과 검증까지 함께 고려한다. 역할 지정 프롬프트란?역할 프롬프트(Role Prompting)는 AI에게 특정 역할이나 관점을 부여해 답변의 방향과 표현 방식을 조정하는 방법이다.예를 들어 “너는 초보자를 가르치는 과학 교사야”라고 지정하면 설명의 수준과 어조를 정하는 데 도움이 될 수 있다.Anthropic의 Claude 프롬프트 가이드도 역할 지정을 특정 용도에 ..

Microsoft는 AI 에이전트가 PC에서 작업할 때 로컬 AI와 클라우드 AI를 함께 활용할 수 있도록 Windows 플랫폼을 발전시키고 있다.로컬 AI는 PC에서 모델을 실행하고, 클라우드 AI는 원격 서비스의 모델과 연산 자원을 활용한다. Microsoft는 이러한 접근 방식을 Hybrid Intelligence라고 부른다.2026년 10월 7일 Microsoft는 에이전트의 접근 범위를 정책으로 제한하는 Microsoft Execution Containers(MXC)가 Windows 11에서 GA(일반 제공) 단계에 들어갔다고 발표했다.다만 조직의 에이전트 식별·관리 기능과 Copilot의 새로운 기능은 MXC와 제공 상태가 다르다. 발표에서 확인된 내용Microsoft는 에이전트를 위한 Win..

NVIDIA Open Agent Safety Platform은 프롬프트로 에이전트의 행동을 안내하는 데 그치지 않고, 실행 환경과 인프라에서 접근 범위와 정책을 통제하도록 설계된 플랫폼이다.NVIDIA는 공식 발표에서 오픈소스 소프트웨어인 OpenShell과 Sentry 참조 시스템 설계를 소개했다.OpenShell은 에이전트의 실행 환경에 보안 경계를 설정하고 정책을 적용한다.Sentry는 BlueField-4 DPU를 활용해 별도 계층에서 에이전트의 행동을 감시하며, NVIDIA에 따르면 소프트웨어 보안 경계를 벗어나려는 에이전트를 격리하고 중단할 수 있다. NVIDIA Open Agent Safety Platform이 겨냥하는 문제AI 에이전트는 사용자 요청에 따라 프로그램이나 도구를 사용해 여러 ..

Jev는 텍스트나 데이터에 대한 질문을 바탕으로 분류, 점수, 확률 등의 판단 결과를 제공하는 AI 모델이다.일반적인 대화형 AI와 달리, 프로그램이 활용할 수 있는 구조화된 판단값을 반환한다는 특징이 있다.Jev를 처음 접한다면 별도의 설치 없이 공식 Playground에서 간단한 예제를 실행해 볼 수 있다.이 글에서는 Jev AI의 기본 개념과 특징을 살펴보고, Playground를 이용해 직접 체험하는 방법을 단계별로 정리한다. Jev란Jev는 TypeSafe가 제공하는 System One 모델이다.사용자가 입력한 상태(state)와 질문을 바탕으로 선택값, 점수, 확률 등의 구조화된 결과를 반환한다.일반적인 대화형 LLM이 자연어 생성과 대화에 폭넓게 활용된다면, Jev는 프로그램에서 활용할 수 ..

[IBM course #7] Generative AI and LLMs: Architecture and Data Preparation Data LoaderDataLoader는 대규모 텍스트나 이미지 등 다양한 데이터셋을 효율적으로 불러오고(batch), 섞고(shuffle), 전처리하는 데 사용되는 PyTorch의 핵심 도구PyTorch에서는 torch.utils.data.DataLoader 클래스를 사용함. Dataset: 전체 데이터를 담고 있으며, 학습(train), 검증(val), 테스트(test) 세트로 나누어 사용함CustomDataset 클래스: 사용자 정의 데이터셋 클래스 (반드시 __init__, __len__, __getitem__ 메서드 필요)init() : 데이터 불러오기len() :..

[IBM course #7] Generative AI and LLMs: Architecture and Data Preparation 생성형 AI (Generative AI)생성형 AI란?생성형 AI(Generative AI)는 텍스트, 이미지, 오디오, 3D, 음악 등 다양한 콘텐츠를 자동으로 생성할 수 있는 인공지능 기술.기존의 대규모 데이터를 학습하여, 그 안의 패턴과 구조를 이해하고 새로운 데이터를 생성하는 방식으로 작동한다. 대표 모델1. 텍스트 생성 모델GPT (Generative Pre-trained Transformer): 대화, 문서 작성, 요약 등에 사용2. 이미지 생성 모델DALL·E, GAN (Generative Adversarial Network), Diffusion Models: ..

[IBM course #6] AI Capstone Project with Deep Learning 6번째 코스는 AI Capstone Project로, ResNet을 이용하여 정상 이미지 / 이상 이미지를 분류하는 모델을 만드는 프로젝트를 진행한다.단계별로 실습을 진행하면서, 마지막에는 학습 결과를 제출하고 peer review를 받으면 마무리되는 코스이다.실습을 진행하면서 정리해 두면 좋을 것들을 가볍게 메모하는 수준으로 게시글을 남겨두려 한다. 1. Dataset - 슬라이싱 문법현업에서는 파이썬을 잘 사용하지 않아서 이런 게 튀어나올 때마다 당황한다ㅠ 그리고 공부해도 금방 까먹음 휴 from torch.utils.data import Dataset를 상속해서 사용자 정의 데이터셋 만들기 여기에서,s..

[IBM course #5] Deep Learning with PyTorch Convolution 연산 기본 개념Convolution은 이미지에 작은 필터(=커널)를 움직이면서 겹쳐 곱한 뒤 합산하는 연산으로, 특징(feature)을 추출하는 데 사용된다.Kernel: 고정된 크기의 필터, 예: 3x3작동 방식: 이미지의 각 부분과 커널을 dot product(내적) → 결과값(activation map) 생성 커널 크기(K), 이미지 크기(M), 스트라이드(S), 패딩(P) 일 때,$\text{Output Size} = \frac{M - K + 2P}{S} + 1$→ PyTorch에서 다음과 같이 설정 가능nn.Conv2d(in_channels=1, out_channels=1, kernel_size=3..

[IBM course #5] Deep Learning with PyTorch 신경망 (Neural Net)기본 신경망 구조 : 1개의 은닉층(2 뉴런)을 가진 신경망 구조입력 → Linear → Sigmoid → Linear → Sigmoid → Threshold (이진 분류용) 활성화 함수: Sigmoid 사용 (출력값: 0~1)PyTorch 구현 방법: nn.Module 또는 nn.Sequential 활용모든 연산은 행렬 곱 기반으로 처리Forward 패스에서 입력 벡터의 shape 변화 추적 가능 이진 분류 학습손실 함수: nn.BCELoss() (Binary Cross Entropy Loss)최적화 함수: Adam 사용입력: 2D 벡터출력: 0 또는 1 (Sigmoid 통과 후 threshold..