GPT는 2018년에 등장한 언어모델로, 이후 GPT-2, GPT-3 등이 등장했고, GPT-4도 조만간 나올 예정이다.
그런데 각 버전은 어떤 차이가 있을 걸까? 각 버전에서 공통적으로 등장하는 단어가 ‘매개변수’이며, 각 버전별로 매개변수의 크기가 다르다.
매개변수(Parameter)의 공식적인 정의는 ‘사용자가 원하는 방식으로 자료가 처리되도록 하기 위해 명령어를 입력할 때 추가하거나 변경하는 수치 정보’를 말한다. 보통 매개변수를 우리의 뇌에 있는 ‘시냅스(Synapse)’와 비교하곤 한다.
인간의 뇌에는 1,000억 개 정도의 뉴런이 있다. 뉴런은 외부로부터 정보를 받아들이고 이를 다른 뉴런에게 전달한다. 이때 서로 떨어져 있는 뉴런들이 다른 뉴런에 정보를 전달하기 위한 통로가 바로 시냅스이다.
1개의 뉴런은 시냅스를 통해 다른 뉴런들과 1:1이 아닌 다:다(1:1,000개 가량)로 이어진다. 이처럼 시냅스가 탄탄하게 거미줄처럼 연결되어 있어서 우리는 수많은 정보를 동시에 처리할 수 있게 된다.
인간의 뇌는 100조 개 정도의 시냅스를 가지고 있다고 한다.
2016년 이세돌과의 바둑 시합으로 유명해진 알파고는 스스로 외부 데이터를 조합*분석해 학습을 한다. 이를 딥러닝이라고 하는데, 딥러닝은 사람의 신경망을 닮은 인공지능신경망을 사용한다.
이러한 인공신경망의 뉴런과 뉴런 사이를 연결하는 ‘매개변수’가 시냅스에 해당한다. 인공지능은 사람의 시냅스에 해당하는 매개변수가 많을수록 성능이 뛰어나다.
2020년 출시된 GPT-3의 매개변수는 1,750억 개다. GPT-1에 비해서는 1,000배, GPT-2에 비해서는 100배 이상 커졌다.
매개변수의 수가 많을수록 생각의 다양성과 표현의 풍부함도 깊어진다. 예를 들어 GPT-1은 ‘오늘은 하늘이 맑다’와 같은 단순한 문장을 만들 수 있다. GPT-2는 ‘오늘 아침 하늘은 맑았지만, 오후에는 구름이 끼기 시작했어요’라고 문장을 생성할 수 있고, GPT-3는 ‘오늘 하늘은 맑았지만, 가벼운 바람이 불어와 시원한 느낌이 들었어요. 창문을 열어놓고 책을 읽는 동안…’ 이라는 식으로 더 풍부한 문장 생성이 가능하다.
이처럼 매개변수가 많다는 것은 우리가 놀라워 할 정도로 뛰어난 소통 능력을 가지게 된다는 것이다. GPT-4의 경우는 인간의 시냅스 수와 비슷한 100조 개의 매개변수 용량을 가지게 된다고 하니 정말 인간다운 인공지능 시대를 기대할 만하다.
--이임복의 [챗GPT 질문하는 인간, 답하는 AI] 중에서!!
▼▼
챗GPT 질문하는 인간, 답하는 AI
deg.kr
챗GPT /마침내 찾아온 특이점
deg.kr
사물인터넷에서 가장 기대되는 것이 역시 자동차입니다. 내비게이션부터 인터 넷 접속의 이점을 확실히 보여주고 있습니다. 최적경로를 찾아주려면 네트워크가 반드시 필요하니까요.
내비게이션으로 시작되었지만, 앞으로 자동차가 직접 네트워크에 연결되면 발전 가능성이 매우 크겠지요?
현재 차량 사물인터넷은 단순히 내비게이션의 길 찾기 수준을 넘어서 더욱 광범위한 네트워크 연결을 지향합니다. 예를 들어 내비게이션이 단순히 교통체증 정보만을 주는 것이 아니라, 인근의 신호등과 연결되어 신호가 바뀐 것을 알려주거나, 같은 도로를 운행 중인 다른 차들과 서로 운행 정보를 교환하면서 사고를 미리 예방할 수도 있습니다.
운전자에게 그런 정보를 보여주어 판단을 도울 수도 있지만, 아예 자동차가 정보에 직접 반응하고 액션을 취할 수도 있습니다. 터널에 진입하면 자동차가 알아서 창문을 닫고 공기를 내기순환 모드로 바꾸거나, 앞으로 지나갈 길의 노면 상태를 전달 받아 미끄럼 방지 기능을 미리 활성화하는 것도 가능합니다.
원래 자동차는 혼자서 고립되어 운전하는 것이 아니라, 같은 운전자나 보행자 등 수많은 타인과 소통하면서 운전하는 것입니다. 그러한 소통 과정을 인터넷 네트워크를 통해 엄청나게 효율화하고 광범위하게 확대할 수 있는 것이지요.
--남충현,하승주의 [4차산업혁명, 당신이 놓치는 12가지 질문] 중에서!!
▼▼
[보리보리/이노플리아]4차 산업혁명 당신이 놓치는 12가지 질문 (4차 산업혁명 핵심 쟁점 총정리)
deg.kr
[신규회원 이벤트] 카페 음료 쿠폰 100% 지급
deg.kr
♥덥다, 더워~(ㅠ.ㅠ)
-대성마이맥 신규 회원 모두에게 시원한 음료 쿠폰을 100% 지급~♪♬
'about 인공지능(AI)' 카테고리의 다른 글
| 로또 1등보다 좋은 행복의 시대? (12) | 2023.07.21 |
|---|---|
| 지금은 4차 산업혁명 시대! (16) | 2023.07.18 |
| 인공지능의 문제는 결국 인간의 문제다~[AI는 차별을 인간에게서 배운다] (2) | 2023.07.14 |
| 챗GPT의 한계 (6) | 2023.06.23 |
| 챗GPT가 할 수 있는 일과 할 수 없는 일! (18) | 2023.06.21 |
| (챗GPT가 답하다) 오픈AI, 인공지능의 시대를 다시 열다! (2) | 2023.05.05 |
| 챗GPT가 자연스럽게 말하는 방법 (2) | 2023.05.03 |
| (챗GPT가 답하다) GPT와 ChatGPT의 차이점은 구체적으로 무엇일까? (0) | 2023.05.01 |
| 자동번역기로 챗GPT에 영어로 질문하는 방법! (0) | 2023.04.28 |
| 챗GPT를 스마트폰 홈 화면에 설치하는 방법! (0) | 2023.04.27 |
