2023 책읽기 (1)

인공지능. 박태웅의 AI 강의 [23.6/30]

생성형 AI에 대한 개념을 알고 싶으면 추천하고픈 책!

꼭 필요한 사항들만 쉽게 풀어서 설명해줍니다.

 

 

아래는 책 속의 글들.

- GPT의 'G'는 generative, 즉 '생성하는, 만드는'이란 뜻입니다 그러니까 '무언가를 만드는 인공지능'이라는 말이지요. 생성 인공지능은 그림을 학습하면 그림을 그리고, 동영상을 학습하면 동영상을 만들고, 글을 학습하면 글을 씁니다. 챗GPT는 글을 만드는 생성형 인공지능입니다.
GPT의 'P'는 pre-trained, '사전 학습한'이란 뜻입니다. 챗GPT 는 무려 3,000억 개의 단어와 5조개의 문서를 학습했습니다. 이 정도면 인간이 만든 거의 모든 문서를 다 봤다고 할 수도 겠습니다. 이런 인공지능을 거대언어모델(Large Language Mode LLM)이라고 부르는데, 그 이유는 뒤에서 말씀드리겠습니다.

'사전학습'에도 두 가지 의미가 있습니다. 하나는 이런 거대 모델을 사전 학습했다는 뜻이고, 다른 하나는 특별히 학습을 추가로 시키지 않은 전문 분야에 관해 질문해도 마치 원래부터 잘 알고 있는 것처럼 그럴듯한 답을 내놓는다는 뜻입니다. 그 래서 이런 거대언어모델 인공지능을 파운데이션Foundation 모델 이라고도 부릅니다. 다른 인공지능의 기반이 되는 모델이라는 뜻입니다.
...

챗GPT의 'T'는 Transformer(트랜스포머)입니다. 딥러닝 모델 중 하나인데, 요즈음 생성형 인공지능의 대다수가 사용할 정도로 효과적인 모델입니다. 트랜스포머는 주어진 문장을 보고 다음 단어가 뭐가 올지를 확률적으로 예측합니다. 5조개의 문서로 학습한 다음, 그것을 근거로 주어진 문장의 다음에 어떤 단어가 배치될지 예측하지요. 그냥 하는 게 아니고 '어텐션Attention' 이라는 모델을 사용합니다. 어텐션은 2017년 구글에서 내놓은 모델입니다. 어텐션 모델은 주어진 문장에서 중요한 키워드가 무엇인지를 알아채지요. 앞의 문장에서 핵심 키워드가 뭔지 알 수 있으면 그다음에 올 단어를 무작위로 예측할 때보다 훨씬 높은 정확도로 예측할 수 있습니다. 연산 시간과 비용도 훨씬 줄겠지요.
(정확히 말하면 단어가 아니라 토큰입니다. 컴퓨터가 단어를 바로 읽을 수 없으니 단어 숫자를 매겨서 입력하는데, 이렇게 단어에 숫자를 매긴 것을 토큰이라고 하지요. 그러니까 3,000억 개의 토큰과 5조 개의 문서로 학습을 시킨 인공지능이 챗GPT입니다.)
...

챗GPT를 이전의 생성형 인공지능과 구분짓는 특징 중 하나는 인간의 피드백을 통한 강화학습(Reinforcement Learning from Human Feedback: RLHF)을 했다는 것입니다. 이것을 통해서 이전의 인공 지능들과 달리 비윤리적인 발언이나, 해서는 안 될 말이 출현하는 빈도를 획기적으로 낮추는 데 성공했습니다.
...

 

챗GPT에게 하는 질문을 '프롬프트 prompt'라고 부릅니다. 이 프롬프트를 어떻게 작성하는 따라 챗GPT의 답은 크게 달라질 수 있습니다. 이것에 관해서도 뒤에 말씀드리겠습니다.

챗GPT의 답은 물을 때마다 조금씩 달라집니다. 그 이유는 챗GPT의 답의 자유도를 설정할 수 있기 때문입니다. 이것을 챗 GPT의 온도temperature라고 부릅니다. 흔히 0도에서 1도 사이로 설정합니다. 0에 가까울수록 정답만 말합니다.
...

 

할루시네이션, 멀쩡한 거짓말
이 방식의 인공지능이 피할 수 없는 게 있습니다. 바로 '할루시네이션 Hallucination '인데요, 아주 멀쩡히 거짓말을 하는 걸 뜻합니다.
...

 

이전과는 확연히 다른 두 가지가 있었습니다. 그 첫 번째는 '느닷없이 나타나는 능력Emergent ability' 입니다.
'창발성'이라고도 부릅니다. 저는 이 번역이 이해를 돕기보다는 또 다른 설명을 필요로 한다는 점에서 적절하지 않다고 생각합니다. 그래서 '느닷없이 나타나는 능력'이라고 직역합니다.

학습 연산량이 대체로 10의 22제곱을 지나는 순간 거대언어모델의 능력이 느닷없이 치솟는 것을 볼 수 있습니다(혹은 매개변수가 1,000억 개를 넘을 때 이런 현상이 발생한다고도 합니다). 이것을 '느닷없이 나타나는 능력'이라고 부릅니다. 거대언어 모델을 파운데이션 모델 Foundation Model이라고 부르는 것은 이 때문입니다. 거대언어모델은 별도의 추가 학습Fine tuning을 하지 않아도, 특정 분야에 대해 질문하면 대답을 잘합니다. 아무런 예제 없이 묻는 질문에 답하는 것을 제로 샷 러닝 Zero shot Learning, 몇 가지 예제와 함께 질문할 때 답하는 것을 퓨 샷 러닝 Few shot Learning 이라고 하고, 이 둘을 합해 질문 속에서 배운다는 뜻으로 인 콘텍스트 러닝 in Context Learning: ICL이라고 부릅니다.

 

미스터 프레지던트 ['23. 6/4]

애정과 존경의 대상인 대통령님의 이야기라 어떤 에피소드든 모두 즐겁고 재미있게 다가온다.
대부분 국가 행사들에 대한 이야기라 유튜브에 올라있는 영상들을 찾아보는 재미도 쏠쏠.
5년간의 재임동안 그들이 얼마나 진지하고 열정과 성의로 고민하며 일해왔는지, 그러면서도 얼마나 고달프고 한편 외로웠을 것 같아 한편으로는 마음이 무거워지기도.
언젠가 글쓴이의 재능이 다시 한번 응원하는 많은 이들을 위해 쓰이기를 바래봅니다. 대통령님 내외 분들도 항상 건강하시길.

 

나의 문화유산 답사기 12.  서울편4 강북과 강남. [23. 4/22]

이번 편에서 다루는 서울은 아래의 지역들이다.
- 성북동, 선정릉, 봉은사, 겸재정선미술관, 허준 박물관, 망우리 역사문화공원

이름은 익히 들어 알고 있지만 서울에서 자라지 않았으니 사실 체험적인 추억들은 없다.
그래도 마치 옛날 이야기 듣듯 조곤조곤 알려주시는 교수님 글을 읽고 있으면 마치 과거로의 여행을 하는 듯 하다. 잘 모르고 있던 역사적 사실들과 인물들을 알게되는재미도 솔솔하고. 
교수님 계속 건강하시고 답사기도 끊기지 않았으면 하는 바램을 가져봅니다.

책 속의 글들

- 머릿말 중
대표적인 예로 강남구의 선릉과 정릉을 소개했다. 특히 이 두 능은 조선 왕릉 중 임진왜란 때 일본인 '범릉적'에게 도굴되는 아픔이 남아 있는 곳이어서 각별한 해설이 필요했기 때문이다. 다른 왕릉의 답사 때는 여기에 실린 왕릉의 기본 구조에 대한 해설이 나름의 길잡이가 될 수 있으리라 생각한다.

 강남의 봉은사는 본래 한강 뚝섬 너머 경기도 광주에 있던 조선시대 의 대표적인 사찰로 '선종종찰(禪宗宗刹)'이라는 명성을 갖고 있는 고찰이다. 강남 개발로 주변의 자연 경관을 다 잃었지만 지금도 도심 속의 녹지 공간으로 시민과 외국인 관광객의 사랑을 받고 있다.
 특히 봉은사는 문정왕후가 보우 스님을 앞장세워 불교를 중흥시킬 때 승려들의 과거 시험인 승과가 치러지던 사찰이다. 이때 제1회에 서산 대사 휴정, 제4회에 사명당 유정이 배출되었고 두 분이 모두 봉은사의 주지를 역임했던 명찰이다. 그뿐 아니라 많은 불교 문화재가 지금도 전해지고 있고 추사 김정희의 절필(이자 명작인 <판전>이 남아 있는 곳이니 서울의 대표적인 사찰로 삼아 답사기에 쓴 것이다.

망우리 공동묘지 역시 1930년대에 일제가 주택지를 확보하기 위하여 경성 근교 이태원, 미아리, 노고산, 신사동(은평구 고택골) 등에 있던 기존의 공동묘지들을 멀리 이장시키기 위하여 마련한 공간이다. 1933년부터 시작되어 1973년까지 40년간 4만 7,700여 기가 들어섰다. 1973년에 매장이 종료되고 이후 이장과 폐묘만 허용하면서 현재 약 7천 기의 무덤이 남아 있다.
...
망우리 공동묘지는 폐장된 이후 '망우묘지공원'으로 명칭을 바꾸었고, 1990년대 들어서는 이곳을 역사문화 위인들을 기리는 묘원공원으로 가꾸려는 움직임이 시작되었다. 마침내 만해 한용운 선생의 묘가 국가 등록문화재 제519호로 지정되고, 독립유공자 여덟 분의 묘가 국가등록문화재 제691호(1~8)로 일괄 지정되었다. 금년(2022) 4월 방문자 센터 '중랑 망우공간'이 개관하면서 이름도 '망우역사문화공원'으로 바꾸었다.

공동묘지라는 어두운 이미지가 역사문화공원으로 다시 태어난 것이다.


p68
미국에 오 헨리가 있다면 우리에겐 이태준이 있다고 말하기도 다. 그의 빛나는 문학적 위업은 이태준 문학을 연구하는 '상허학회'가 일찍부터 활동해왔다는 사실이 상징적으로 말해준다.
이태준의 대표작으로 꼽히는 「달밤」 「복덕방」 「가마귀」 「밤길」 「돌다리」 같은 작품을 읽고 나면 그 주인공의 애처롭고 안타까운 모습에 가슴이 아려와 책장을 덮고 한동안 빈 천장을 바라보게 된다. 주인공들은 하나같이 모진 세월을 어처구니없는 아픔으로 살아가는 밑바닥 인생들인데 전편에 흐르는 따뜻한 인간애는 가슴이 미어지게 한다.


p71
이따금 나는 문장 수업은 어디에서 받았으며, 『나의 문화유산답사기』 의 아이디어를 어디에서 얻었느냐는 질문을 받는다. 그럴 때면 특별히 수업받은 것은 없고 있다면 문장강화(文章講話)』에서는 아름다운 문체가 무엇인지를 배웠고, 「만주기행」에서는 기행(답사)이란 목적지 못지않게 그곳까지 가는 과정에서 일어나는 상념도 중요하다는 것을 배웠다고 대답한다.

 

 

백석과 김자야 | 첫 시집 「사슴을 펴내고」  함흥영생고보 영어교사로 부임한 백석은 회식 자리에서 만난 진향을 보고 첫눈에 반해 자야라는 이름을 지어주고 평생 연인이 되자고 했다.

길상사  | 자야는 1987년에 법정 스님의 무소유를 읽다가 불현듯 대원각을 절로 만들겠다고 결심하고 도움을 청할 생각으로 법정 스님을 찾아갔다. 이후 10년 뒤 세워진 절이 길상사다.

p237
'절집의 큰 자산은 노스님과 노목이다'
​

 

아버지의 해방일지  ['23. 3/26]

책속의 아버지는 비록 빨치산, 사회주의자라는 딱지를 붙였지만 그 속은 따뜻하고 사람 냄새 풍기는 인물이다.
그러한 아버지를 알려주기 위해 장례식장에 조문 온 여러 사람들과의 인연을 하나씩 들려준다.
(* 각 사연들을 하나 하나 이야기들로 구성했다면 장편 소설이 되었을 수도 있겠으나 조문의 형식으로 짧고 축약해서 들려준다)

책 제목은 왜 아버지의 '해방일지'일까, 어디로부터의 해방일까? 어쩌면 아버지의 해방이 아니라 글을 읽는 독자들의 빨치산에 대한 인식의 해방이 아닐까 생각도 해 본다.

작가의 말 중 한 구절이 아버지를 가장 잘 드러내는 것 같다.
"사램이 오죽하면 글겄냐. 아버지 십팔번이었다. 그 말 받아들이고 보니 세상이 이리 아름답다."


* 등장 인물
- 최약방 아저씨 : 죽은 동생의 유언을 아버지가 전해 준 인연.
- 민노당원 박동식 : 장례식장까지 함께 함, 아버지의 영정 사진을 미리 준비할 정도로 가까웠고 아버지를 삼촌으로 모셨던 사이
- 황사장 : 장례식장의 공동 사장 셋 중 하나
- 작은 아버지 : 본인 삶의 비참함이 아버지 때문으로 생각하는 원수같은 사이. 아홉살 때 교실에 찾아온 군인들에게 아버지 이야기를 해 할아버지를 죽음으로 내몬 사건이 있었다.
- 박한우 : 아버지 동창, 아버지와는 제일 가까운 친구. 군인으로 빨치산과 맞서다 후에는 교련 선생이 되고 조선일보를 구독한다. 자신의 총에 형제자매가 죽었을 수도 있다는 죄의식을 갖고 있다.
- 아버지가 생전 자주 가던 실비집 여주인
- 큰집 길수 오빠 : 부군수 승진을 앞두었으나 위암 말기. 작은 아버지의 빨치산 경력으로인해 육사 입학이 좌절됨. 
- 떡집 언니, 사촌 언니들 : 장례식 주방을 맡아주고, 함께 상주가 되어준다.
- 영자 : 아버지덕에 암내 수술을 하고는 결혼하여 잘 살게된 동네 동생
- 경희 언니 : 아버지의 도움으로 여호와의 증인 종교 생활을 지킬 수 있었던 사촌
- 담배 친구 소녀 : 베트남 엄마 아래에서 비행 청소년이 될 뻔 하였으나 아버지 말을 듣고는 마음을 잡는다
- 빨치산 소년 : 열세살에 부모를 찾아 산으로 가 빨치산이 된 소년
- 윤학수 : 지역사회 연구소에서 여순사태와 빨치산을 연구하며 아버지와 알게됨.
- 아버지 옛 처제 : 어른들에 의해 억지 결혼을 했지만 아버지는 결국 떠나버렸던 첫 마누라의 여동생
- 엄마의 이전 시동생 : 남부군에서 전사한 엄마 첫 남편 윤재의 동생
- 김상욱 : 아버지를 따르는 카톨릭 농민회 청년
- 경찰 : 아버지가 목숨을 살려준 전직 순경

 

책속의 문장들

 

p81
"빨갱이의 딸인 나는 오빠를 생각할 때 마다 죄를 지은 느낌이었다. 빨갱이의 딸인 나보다 빨갱이의 조카인 오빠가 견뎌야 했을 인생이 더 억울할 것 같아서였다. 자기 인생을 막아선 게 아버지의 죄도 아니고 작은아버지의 죄라니!"

p47
아버지에게는 사상과 사람이 다른 모양이었다. 예전에도 그런 말을 한 적이 있다. 광주교도소에서 함께 복역한 동지 한 사람이 떠르르한 지주의 자식이었다. 그에게는 늘 사식이 풍성하게 들어왔다. 그 사식을 변소에 숨겨놓고 돼지처럼 저 혼자 먹었다고, 진짜배기 혁명가가 아니라고, 아버지는 두고두고 흉을 보았다.
 "여호와의 증인들이 한 감방에 있었는디 갸들은 지 혼자 묵들 않애야. 사식 넣어주는 사람 하나 읎는 가난뱅이들헌티 다 노놔주드라. 단 한명도 빠짐없이 글드랑게. 종교가 사상보담 한질 원갑서야."

p98
아버지는 내가 아는 한 단 한순간도 유물론자가 아닌 적이 없었다. 먼지에서 시작된 생명은 땅을 살 찌우는 한줌의 거름으로 돌아가는 법, 이것이 유물론자 아버지의 올곧은 철학이었다. 쓸쓸한 철학이었다. 그 쓸쓸함을 견디기 어려워 사람들은 영혼의 존재를, 사후의 세계를 창조했는지도 모른다.

p102
나는 아버지와 달리 오죽해서 아버지를 찾는 마음을 믿지 않았다. 사람은 힘들 때 가장 믿거나 가장 만만한 사람을 찾는다. 어느 쪽이든 결과는 마찬가지다. 힘들 때 도움받은 그 마음을 평생 간직하는 사람은 열에 하나도 되지 않는다. 대개는 도움을 준 사람보다 도움을 받은 사람이 그 은혜를 먼저 잊어버린다. 굳이 뭘 바라고 도운 것은 아니나 잊어버린 그 마음이 서운해서 도움 준 사람들은 상처를 받는다. 대다수의 사람은 그렇다. 그러나 사회주의자 아버지는 그렇다한들 상처받지 않았다

p110
아버지는 갔어도 어떤 순간의 아버지는 누군가의 시간 속에 각인되어 기억을 떠올릴 때마다 생생하게 살아날 것이다. 나의 시간 속에 존재할 숱한 순간의 아버지가 문득 그리워졌다.

p239
"아버지가 이 작은 세상에 만들어놓은 촘촘한 그물망"

나의 문화유산 답사기 11.  서울편3. 내고향 서울 이야기 ['23.2/5]

나의 문화유산 답사기 11.  서울편3

교수님의 서울편 3번째 책에서 다루는 곳은 아래의 6곳이다.
  - 북악산.서촌. 인왕산.북촌.인사동.북한산

경기도 살고 서울로 출퇴근하지만 사실 다른 목적으로 서울을 방문하는 일은 많지 않았다. 그러다 등산에 재미를 들이면서 한달에 한두번은 가게 되었으나 그것도 주로 산행을 위해 잠시 거치는 정도.
자연스레 책에서도 산에 대한 이야기들에 관심이 끌렸고 그 중에서도 북한산이 가장 흥미로웠다. 수차례 오르기는 했으나 정말 아무것도 모르고 산만 탔구나 싶은 생각도 들고, 다음번 산행은 책에 나온 이야기들을 따라 가봐야겠는 마음도 든다.

 

 

아래는 북한산 관련 책 속의 글들

"인왕산은 2018년 5월부터 완전 개방되어 지금은 누구나 자유롭게 등반할 수 있게 되었다. 청와대의 경호·군사목적 시설물이 배치돼 일반인 접근이 부분적으로 통제된 인왕산 지역을 완전히 개방하기에 앞서 인왕산의 폐쇄적인 군사시설을 어떻게 처리할 것인가를 함께 검토하기 위해 2018년 3월 10일 문재인 대통령과 나, 건축가 승효상이 함께 등반에 나 섰다.
본래 초소란 사방 경계를 하기 가장 좋은 위치에 지은 것이기 때 문에 이곳을 전망대로 활용하는 것이 역사성도 살리는 방안이라고 건의하여 지금 등반객들이 가장 애용하는 '초소책방'이 탄생했다.

건축가 이충기(서울시립대 교수)의 설계로 2020년 11월에 문을 연 초소 책방은 기존 초소의 철근 콘크리트 골조는 살리면서 1개 층을 증축해 지상 2층 규모의 북카페이자 전망대로 탈바꿈했다. 기존 건물이 폐쇄적이었던 것에 반해 안과 밖의 자연 경관이 경계를 이루지 않고 물 흐르듯 흐른다. 건축물 주변의 오래된 나무, 건물 뒤에 있는 바위 경관이 그대로 실내 공간으로 이어진다. 유리를 벽으로 쓴 책방에 앉아 있으면 자연 속에 앉아 있는 느낌이 든다. 세계에 이런 멋진 북카페가 어디 또 있을까 싶은 자랑스러운 공간이다."


"북한산은 최고봉인 백운대(白雲臺)를 중심으로 북쪽에 인수봉(仁壽峯), 남쪽에 만경대(萬景臺)가 있어 삼각산(三角山)이라고도 불려왔다."

"북한산에는 중흥사와 태고사 외에도 도선사(道詵寺)·승가사(僧伽 寺)·화계사(華溪寺)·진관사(津寬寺)·삼천사(三川寺) 등 30여 개의 사찰이 있다."

"북한산 (신라 진흥왕) 순수비를 사람들은 무학대사비라고 했으나 추사는 조인영과 함께 북한산 비봉에 올라 비석을 탁본하고 이것이 진흥왕 순수비임을 다시 확인해 세상에 널리 알렸다."

- p343
 「삼각산 기행시축」은 추사의 아버지 김노경이 2명의 벗들과 3박 4일간 북한산을 유람하면서 지은 시축인데 이때 추사도 동행하여 시 한 수를 지었다. 그때 추사는 이 비가 도선국사비로 전한다는 이야기를 들었다고 했다. 이 시축은 조선시대 문인들이 북한산 유람을 어떻게 즐겼는지 구체적으로 보여주고 있다.

-p344
그러다 2006년 내가 문화재청장으로 있을 때 뜻밖에도 문재인 당시 민정수석이 나에게 비봉에 북한산 순수비가 없는 것이 너무 아쉬우니 안내석을 치우고 그 자리에 복제품을 세우는 것이 어떻겠느냐고 건의했다.
이에 나는 즉시 국립문화재연구소에 북한산 순수비의 복제비를 만들도록 지시했다. 한 치도 틀리지 않는 똑같은 레플리카를 만들도록 하여 연구소에서는 국립중앙박물관에 옮겨진 비석의 3D 시뮬레이션 작업에 들어갔다. 그러나 복제비를 만드는 것은 쉬운 일이 아니었다. 최대한 원형에 가깝게 하는 것이 원칙이지만 몇 가지 중요한 검토사항이 있었다. 첫째는 비석의 재질 문제였다. 문화재전문위원인 이상헌 교수(강원대. 지질학)가 비의 재질을 분석했더니 뜻밖에 북한산 일대에 있는 암석이 아니라는 것이었다. 어디선가 암석을 캐어 다듬은 비석이라는 의미다. 이에 흑운모가 가장 적게 함유된 강화도산 화강암으로 결정했다.
 둘째는 글자를 그냥 흐리게 할 것인가 읽을 수 있게 나타낼 것인가 하는 문제였다. 추사가 읽은 68자조차도 지난 200년간 풍우에 마모된 것이 많았다. 이에 지금까지 확실히 판독된 글자만을 각자(刻字)하고, 판독불가능한 글자와 판독에 논란이 많은 글자는 새기지 않았다. 서체는 문화재전문위원 이완우 교수(한국학중앙연구원, 서예사)의 자문을 받아 서만석 각자공이 새겼다.
셋째는 비석의 상처를 어떻게 할 것인가 하는 문제였다. 비신 뒷면에 한국전쟁 때 입은 총탄 자국 26군데를 포함해 실물에 나타나는 균열과 표면 박락, 파손 부위 등이 그대로 재현됐다. 다만 비석이 두 동강 난 것은 통돌로 만들면서 깨진 자리를 명확히 표시해두는 것으로 했다. 이런 원칙하에 문화재등록업체인 경록건설에서 비석을 제작했다. 이것이 지금 비봉에 세워져 있는 북한산 순수비 복제비다."

※ 순수(巡狩), 순행(巡幸)
    황제가 제국 통치를 위해 각 지방을 순시하는 행위
※ 척경비(拓境碑) : 경계를 개척한 것 (개척하다 척, 경계 경)
※ 진휼(賑恤) : 흉년에 가난하고 군색한 백성을 불쌍히 여겨 도와줌.