ChatGPT(챗GPT)란 무엇인가? 원리, 활용법 예시

ChatGPT란?

ChatGPT란 OpenAI가 개발한 GPT-3.5 기반의  대형 언어 모델(large language model, LLM) 챗봇을 뜻합니다.

ChatGPT는 대화 형태로 상호작용을 하며 놀라울 정도로 인간과 대화하는 것과 같은 반응을 제공하는 능력을 가지고 있습니다.

대형 언어 모델 (large language model, LLM)은 일련의 단어에서 다음 단어를 예측하는 작업을 수행합니다.

ChatGPT는 인간 피드백형 강화학습 (Reinforcement Learning w/ Human Feedback, RLHF)을 사용하는데요, 이는 사용자의 지시를 따르고 만족스러운 반응을 생성하는 능력을 만들기 위해 인간 피드백을 사용하는 추가 훈련 계층입니다.

대형 언어 모델(LLM)은 문장에서 다음에 오는 단어를 정확하게 예측하기 위해 방대한 양의 데이터로 훈련되는데요. 데이터의 양을 늘리면 언어 모델의 수행 능력이 증가하는 것으로 나타났습니다.

스탠포드 대학에 따르면 GPT-3는 1,750억 개의 매개 변수를 가지고 있으며 570기가바이트의 텍스트에 대해 교육을 받았습니다. 이는 전작인 GPT-2는 15억 개의 매개변수에 100배 이상 해당되는 수치입니다.

대형 언어 모델 (LLM)은 문장의 일련의 단어로 다음 단어를 예측하고 다음 문장을 예측합니다. 즉, 자동 완성과 유사하지만, 여러분을 사로잡는 정도로 예측합니다. 이 기능을 통해 사용자들은 단락 뿐만 아니라 여러 페이지의 콘텐츠를 작성할 수 있습니다. 그러나 대형 언어 모델 (LLM)은 인간이 원하는 것을 항상 정확히 이해하지 못한다는 점에서 한계가 있습니다.

이 한계점은 이는 앞서 언급한 인간 피드백형 강화학습 (RLHF)훈련을 통해 기술 수준이 개선 가능한데요. 이 훈련을 통해 ChatGPT는 사용자의 지시를 따르고 만족스러운 반응을 생성하는 능력을 만들 수 있습니다. 

ChatGPT 어디에 사용할까?

- 비용절감?  

-종래 컴퓨터가 단순반복업무를 처리했다면

      ChatGPT는 복잡 다기한 업무를 처리합니다

        (의사, 변호사, 검사, 판사, 회계사,..)

-미인에 대한 답으로 백인이 압도적이다.  왜? 

-→ 인간이 가지고 있는 편견과 선입견도 그대로 학습한 모델이다.