AI 서비스 통합을 위한 효과적인 프롬프트 패턴을 알아봅니다.
AI 통합 프롬프트 구조
OpenAI API
기본 연동
OpenAI API를 연동하는 서비스를 만들어줘.
기술: Node.js + TypeScript
기능:
- 채팅 완성 (Chat Completion)
- 스트리밍 응답
- 에러 처리
- 재시도 로직
- 토큰 카운팅
요구사항:
- 환경 변수로 API 키 관리
- 타입 정의
- 레이트 리미팅 처리
- 비용 추적
함수 호출
OpenAI Function Calling을 구현해줘.
시나리오: 날씨 챗봇
함수:
- get_weather(location, unit)
- get_forecast(location, days)
요구사항:
- 함수 스키마 정의
- 함수 실행 로직
- 대화 흐름 관리
- 에러 핸들링
전체 대화 루프 구현
구조화된 출력
OpenAI Structured Output을 사용해줘.
목적: 제품 정보 추출
입력: 제품 설명 텍스트
출력:
{
name: string,
price: number,
features: string[],
category: string
}
요구사항:
- JSON Schema 정의
- Zod로 검증
- 파싱 에러 처리
LangChain
체인 구성
LangChain으로 문서 QA 체인을 만들어줘.
구성:
1. 문서 로드 (PDF)
2. 텍스트 분할
3. 임베딩 생성
4. 벡터 저장소 (Pinecone)
5. 검색 + 생성 (RAG)
기술: TypeScript + LangChain.js
요구사항:
- 모듈화된 구조
- 대화 기록 관리
- 소스 인용
- 스트리밍 응답
에이전트 구현
LangChain 에이전트를 구현해줘.
에이전트: 고객 지원 봇
도구:
- search_orders: 주문 검색
- get_product_info: 상품 정보
- create_ticket: 티켓 생성
- check_inventory: 재고 확인
요구사항:
- ReAct 패턴
- 도구 선택 로직
- 대화 메모리
- 에러 복구
프롬프트 템플릿
재사용 가능한 프롬프트 템플릿을 만들어줘.
템플릿 유형:
1. 분류 (Classification)
2. 요약 (Summarization)
3. 추출 (Extraction)
4. 생성 (Generation)
5. 대화 (Conversation)
각 템플릿:
- 시스템 프롬프트
- 변수 정의
- 예시 (Few-shot)
- 출력 형식
RAG 시스템
기본 RAG
RAG 시스템을 구현해줘.
데이터: 회사 문서 (PDF, Markdown)
구성요소:
1. 문서 처리 파이프라인
2. 청킹 전략
3. 임베딩 모델
4. 벡터 DB
5. 검색 (Retrieval)
6. 생성 (Generation)
요구사항:
- 하이브리드 검색 (키워드 + 시맨틱)
- 리랭킹
- 컨텍스트 압축
- 인용 표시
고급 RAG
고급 RAG 기법을 구현해줘.
기법:
- Multi-Query Retrieval
- Self-Query Retrieval
- Parent Document Retrieval
- Contextual Compression
평가:
- Retrieval 정확도
- Answer 품질
- 지연 시간
각 기법의 코드와 사용 시나리오
임베딩
임베딩 서비스
임베딩 서비스를 만들어줘.
기능:
- 텍스트 → 임베딩
- 배치 처리
- 캐싱
- 유사도 검색
요구사항:
- OpenAI Embeddings
- 또는 로컬 모델 (Sentence Transformers)
- 벡터 DB 연동
- API 엔드포인트
시맨틱 검색
시맨틱 검색 시스템을 구현해줘.
데이터: 상품 카탈로그 (10만 개)
기능:
- 자연어 쿼리 검색
- 필터링 (카테고리, 가격)
- 관련 상품 추천
- 자동완성
기술:
- Pinecone / Qdrant
- 메타데이터 필터
- 하이브리드 점수
스트리밍
스트리밍 응답
AI 스트리밍 응답을 구현해줘.
백엔드: Next.js API Routes
프론트엔드:
- 실시간 텍스트 표시
- 타이핑 효과
- 중단 버튼
- 에러 처리
기술:
- Server-Sent Events
- 또는 Vercel AI SDK
실전 프롬프트
AI 챗봇
완전한 AI 챗봇을 구현해줘.
기능:
- 대화형 인터페이스
- 컨텍스트 유지
- 도구 사용 (검색, 계산)
- 파일 첨부 분석
- 대화 저장/불러오기
기술 스택:
- Next.js
- OpenAI API
- LangChain
- Vercel AI SDK
- PostgreSQL (대화 저장)
전체 코드 구조와 핵심 파일들
AI 기반 문서 처리
AI 문서 처리 시스템을 만들어줘.
기능:
1. 문서 업로드 (PDF, DOCX)
2. 텍스트 추출
3. 요약 생성
4. 키워드 추출
5. QA 인터페이스
요구사항:
- 대용량 문서 처리
- 비동기 처리
- 진행 상황 표시
- 결과 저장
백엔드 + 프론트엔드 코드
팁
| 팁 | 설명 |
|---|---|
| 모델 명시 | GPT-4, Claude 등 |
| 용도 설명 | 어떤 문제 해결? |
| 데이터 형태 | 입력 데이터 구조 |
| 비용 고려 | 토큰 사용량 |
| 에러 처리 | API 실패 대응 |
AI 통합은 적절한 프롬프트 설계가 핵심입니다.