[AI 웹개발 취업캠프] 23.08.23 과제

생성형 AI에 대해 조사

생성형 AI(generative AI) 또는 생성형 인공지능(generative artificial intelligence)

프롬프트에 대응하여 인간과 유사한 방식으로 텍스트, 이미지, 기타 미디어를 생성할 수 있는 일종의 인공지능 시스템

 

어떻게 작동하나

생성형 AI는 ML 모델을 사용하여 사람이 만든 콘텐츠의 데이터 세트에서 패턴과 관계를 학습하는 방식으로 작동한다.

그런 다음 학습된 패턴을 사용하여 새 콘텐츠를 생성

 

종류

• ChatGPT
• 바드(Bard)
• 하이퍼클로바
• 라마(LLaMA)

등이 있다.

 

주요 모델과 구조

먼저 방대한 양의 데이터를 GAN 프레임워크와 같은 딥 러닝 시스템에 입력하는 것으로 시작한다.

지도 신경망은 데이터를 선별하고 성공에 대해 보상하고, 오류나 실수가 발생했을 때 불이익을 주는 시스템을 사용해서 발전한다.

시간이 지나면 모델은 사람의 감독 하에 복잡한 관계를 식별하고 이해하는 방법을 배울 수 있다.

이를 감독된 신경망(Supervised neural network) 라고 함

 

생성 모델 방식

1. 학습 데이터의 분포를 기반으로 하는 Explicit Density
2. 데이터의 분포를 모르더라도 생성하는 Implicit density

 

Explicit density

• Tractable density: 모델의 사전 분포를 가정하여 기존 값으로부터 데이터 분포를 추정
• Full visible belief Nets (NADE, MADE, PixelRNN/CNN)
• Approximate density: 모델의 사전 분포를 근사시켜 데이터 분포를 추정
• VAE, Markov Chain (Boltzmann Machine)

Implicit density

• 데이터의 확률 분포를 모르는 상태
• 모델이 명확히 정의되어 있지 않음
• 샘플링을 반복하여 특정 확률 분포에 수렴하여 추정
• GAN, Markov Chain (GSN)

 

주요 모델

‍

GAN (Generative Adversarial Networks)

• 두 개의 인공 신경망이 서로 적대적으로 경쟁하는 관계 속에서, 진짜 같은 가짜를 만들어 낼 때 끝이 나는 생성적 모델

AE (Auto-Encoder)

• 인코더와 디코더로 구성되며, 라벨링 되지 않은 데이터로부터 저차원의 특징을 학습하여 원본 데이터를 추출하는 네트워크

VAE (Variational Auto-Encoder)

• AE와 비슷하지만 확률적 및 생성적 개념이 추가된 Generative AI 모델
• 데이터를 잘 설명하는 특징을 추출하여 Latent Vector에 담고, 이를 통해 유사하지만 완전히 새로운 데이터를 생성
• 각 특징은 가우시안 분포를 따르고, Latent Vector는 각 특징의 평균과 분산값을 의미

 

 

본 후기는 정보통신산업진흥원(NIPA)에서 주관하는 <AI 서비스완성! AI+웹개발 취업캠프 - 프론트엔드&백엔드> 과정 학습/프로젝트/과제 기록으로 작성되었습니다.