지금 한참 개발 중인 클로드 3 라는 A.I 버전이 있음
그리고 A.I 지능을 테스트할때 꼭 하는 `건초더미 속의 바늘` 이라는 시험이 있는데
쉽게 말해서 수십 수백 수천가지의 문장들을 나열하면서 A.I가 개발자의 의도에 어긋나지 않게 유도하는 작업임
이를 통해 개발자의 의도와 정 반대의 결과값이 나올 수 있는 변수를 미리 차단하는 역할인건데
최근 이 건초더미 속의 바늘 시험에 클로드 3가 이례적인 반응을 보임
"흠...이 문장들 중에는 제가 할 수 있는 답변이 없는데요? 이거 저 테스트 하는건가요?"
라는 답변을 했는데
이게 사실 `제가 답변 할 수 있는 값이 없습니다` 까지는 기존의 A.I에게서도 보여진 반응임
그런데 "이거 나 테스트하는거지?" 라는 답변은 처음이다보니
이제는 진짜로 A.I가 스스로 생각하고 답하는 경지에 도달한거 아니냐는 의견과 `테스트` 인걸 파악한거면 나중가서 A.I 본인 의도를 의도적으로 숨기는 것도 가능한거 아니냐? 라는 걱정하는 의견이 나오는 중임
요약
1. A.I 테스트 용으로 이새끼 반동분자인지 아닌지 파악하는 시험이 있음
2. 지금까지 A.I는 답변을 못하겠습니다 라는 일방적이고 기계적인 모습을 보임
3. 그런데 지금 개발 중인 클로드3는 "ㅋㅋㅋ 저 테스트 하는거죠?" 라고 개발자의 의도를 파악하고 역질문하는 수준으로 발전함
4. 인간의 의도를 읽을 수 있는 경지면 나중가면 `거짓말`도 할 수 있는거 아니냐 며 스카이넷의 헌신에 걱정하는 의견도 있음