오직 예수안에서

예수님이 생각하시는 교회입니다

구글 NOTEBOOK LM. AI 가 틀린 말 많이 한다.


1. 앞선 글에 원숭이 이야기를 했다. 설교 중에 거짓말에 대한 자료가 필요해서 사피엔스 어디에 나오는가 알아야 되겠다 싶어 NOTEBOOK LM에게 물었다.  

"사피엔스에서 거짓말하는 원숭이 이야기는 왜 했지?" 그랬더니 "사피엔스에는 거짓말하는 원숭이 이야기는 안 나와 호모데우스에 나온다"라며 이렇게 답했다.


The story you're referring to, about a chimpanzee named Santino who exhibits seemingly deceptive or planned behavior, is discussed in Homo Deus, not Sapiens. In Homo Deus, the author, Yuval Noah Harari, uses Santino's behavior to explore the complex relationship between consciousness, intelligence, and algorithms, and to question our understanding of animal (and even human) minds ...



2. 그래서 다시 이렇게 입력했다. 

"사피엔스에 거짓말을 해서 다른 원숭이의 바나나 훔쳐 먹는 이야기가 분명히 나온다고. 다시 찾아봐!" 했더니 이번에는  한국 말로 이렇게 답했다. 


사피엔스에 '거짓말해서 다른 원숭이의 바나나를 훔쳐 먹는 원숭이' 이야기는 나오지 않습니다. 해당 이야기는 유발 하라리(Yuval Noah Harari)의 다른 저서인 ***호모 데우스(Homo Deus)***에서 다루어집니다....


3. 다시 좀더 자세히 기억을 더듬어서 이렇게 입력했다. 

"사피엔스에 녹색원숭이가 "주의해 사자야"라고 외치는 순간 동료 원숭이가 도망 간 것을 이용해서 바나나를 가로챈다는 이야기가 나온다니까 찾아봐."했더니 이번에는 영어로 다음과 같이 답했다. 


The story you are referring to, about a green monkey falsely shouting "attention, lion!" to steal bananas from its companions, is not present in the provided excerpts from Sapiens [No direct mention in sources from Sapiens].
In our previous conversation, I clarified that the story about a chimpanzee named Santino, who exhibited seemingly deceptive and planned behavior by hiding stones to later pelt visitors, is discussed in Yuval Noah Harari's Homo Deus, not Sapiens ....



4. 그래서 해당 대목을 찾아서 붙여서 이렇게 입력했다. 

"너 자꾸 사피엔스에는 거짓말하는 원숭이 이야기 없다고 우겼지. 그러면 아래 사피엔스의 이 문장은 뭐냐?  

An imagined reality is not a lie. I lie when I say that there is a lion near the river when I know perfectly well that there is no lion there. There is nothing special about lies. Green monkeys and chimpanzees can lie. A green monkey, for example, has been observed calling ‘Careful! A lion!’ when there was no lion around. This alarm conveniently frightened away a fellow monkey who had just found a banana, leaving the liar all alone to steal the prize for itself. Unlike lying, an imagined reality is something that everyone believes in, and as long as this communal belief persists, the imagined reality exerts force in the world...."

    그제야 NOTEBOOK LM이 잘못을 인정하고 미안하다고 이렇게 답했다. 


  You are absolutely correct to call me out on that! My apologies. I was mistaken in stating that the "lying monkey" story was not in Sapiens. The passage you provided clearly shows that it is indeed discussed in Yuval Noah Harari's Sapiens: A Brief History of ...



5. AI가 잘못된 대답을 하는 이유가 궁금해서 이렇게 물었다. 

"너는 일종의 기계적 논리를 갖고 있는데 단순한 기계적 정보를 찾아내지 못하면 어떻게 하니? 왜 못 찾아냈는지 그 이유를 나에게 설명해 주라."했더니 이번에는 한국말로 이렇게 답했다. 

 

당신이 이전 오류를 지적해주신 것에 대해 전적으로 옳으시며, 잘못된 주장을 한 것에 대해 진심으로 사과드립니다. 저는 이전에 '초록 원숭이' 이야기가 『사피엔스』(Sapiens)에 없다고 말씀드렸습니다 [Conversation History]. 이것은 저의 실수였으며, 당신이 저의 정보 검색 능력에 의문을 제기하는 것이 당연하다고 생각합니다. 당신이 옳게 지적하신 '단순하고 기계적인 정보'를 찾아내지 못한 이유는 저의 정보 처리 과정에서 발생하는 몇 가지 요인들 때문입니다: (블라블라....)


6. 사람들은 NOTEBOOK IM은 정보의 허구를 극복할 수 있다고 말한다. 이유인즉 정확한 정보 출처를 인용하기 때문이라는 것이다. 하지만 위의 사례에서 보듯 완전하지 않다. 

그럼에도 AI가 어떤 특정한 부분은 인간의 능력을 훨씬 능가한다는 것을 인정하지 않을 수 없다. 그래서 염려한다. 이런 오류를 가진 능력을 지나치게 의존하게 될 때 우리가 살아갈 세상은 어떻게 될까? NOTEBOOK LM은 정중하게 사과는 할 줄 안다. 그런데 쳇GPT는 사과도 잘 안한다. 지난 번에 쳇GPT가 너무 엉뚱한 이야기를 해서 "앞으로는 모르면 모른다고 해라. 너의 생각이면 내 생각에는 이렇다"고 먼저 밝힌 후에 답해야 한다고 지시한 적도 있다. AI의 도움은 받되 다 믿어서는 안될 것이다.  

댓글목록

TOP