2023-11-23 Gen AI를 이용한 생산성 증대

4-1 이전 강의 퀴즈 리뷰

애자일 개발 방법론에서 필요한 미팅이 아닌 것 = 스태프 미팅

4-2 Gen AI 란? 1

$$ LLM \subset Gen AI \subset 딥러닝 \subset 머신러닝 \subset 인공지능 $$

Gen AI

• 생성형 AI
• 학습된 컨텐츠 바탕으로 새로운 컨텐츠를 만들어 냄
• 딥러닝의 일부
• LLM(Large Language Model)은 Gen AI의 일부

딥러닝의 모델 타입

• Discriminative
  • 분류/예측. 레이블 있음
  • 피처들과 레이블들 간의 관계를 학습
  • 개/고양이 분류

• Generative
  • 비지도 학습
  • 통계적 특성을 이해 -> 새로운 데이터 생성
  • 개 이미지 생성

Gen AI, ML Model 동작 방식은 동일 y = f(x), but 출력이 다르다.

Gen AI의 파운데이션 모델

• 광범위한 데이터 세트에 대해 학습된 대규모 머신 러닝 모델의 한 유형

  • Pre-trained
  • Unsupervised Learning or Self Supervised Learning
  • Transformer 모델 아키텍처를 사용

• 특별한 학습 없이 다양한 작업에 적용 가능 (GPT-3, GPT-4, BERT 등)

• 파인 튜닝을 통해 도메인의 특성을 살려 특정 지식을 학습 시킴 (GPT -> ChatGPT)

4-3 Gen AI 란? 2

Hallucination - 헛소리하는 거
멀티모달 파운데이션 - 다양한 형태의 데이터를 훈련

4-4 ChatGPT 발전 살펴보기

GPT3 -> GPT4 -> GPT4 Turbo
context window가 커짐.

prompt 잘 쓰는 법
역할 부여, 해야 하는 일, 구체적 Format, 구체적 목표, 제한 사항