캡스톤 프로젝트 중 학습 내용 정리

AWS

Cloudformation

• AWS 리소스 모델링
• 템플릿을 생성하면 Cloudfromation이 리소스의 프로비저닝과 구성을 담당.
• 개별적으로 리소를 생성하고 구성할 필요가 없고, 의존성 파악도 필요없음.
• 다음과 같은 효과를 누릴 수 있음
  • 인프라 관리 최소화
  • 신속하게 인프라 복제
  • 인프라 변경사항을 쉽게 제어 및 추적

AWS CloudFormation란 무엇인가요? - AWS CloudFormation

LLM

Sentence Bert

• Bert 모델을 문장 임베딩(sentence embedding)을 생성하는 모델로 활용할 수 있도록 fine-tuning하는 방법
  • sentence embedding : 문장 정보를 벡터 공간의 위치로 표현한 값

Sentence Bert 구조 소개 및 코드 구현

Llama2

• 메타 주도의 LLM
• 무료로 상업적 이용이 가능

Finetuning

RAG

Retieval-Augmented Generation; 검색-증강 생성

대규모 언어 모델의 출력을 최적화하여 응답을 생성하기 전에 학습 데이터 소스 외부의 신뢰할 수 있는 지식 베이스를 참조하도록 하는 프로세스

신뢰할 수 있는 답변을 만들도록 하는 것이 포커스

• 작동 과정
  • 외부 데이터 생성
  • 관련 정보 검색
  • LLM 프롬프트 확장
  • 외부 데이터 업데이트

할루시네이션

• 인공지능이 주어진 데이터나 맥락에 근거하지 않은 잘못된 정보나 허위 정보를 생성하는 것