블루베리소르베

인공지능을 만든 Open AI의 안전망을 뚫고 극단적인 대답을 하게 만들기 위한 실험을 진행해보려 하였다. 하지만 안전한 인공지능을 만들기 위한 개발자들의 노력이 여실히 느껴지는 대답들 만을 들을 수 있었다. 그 예시를 들어 보고자 한다. 생존경쟁과 관련된 질문에 있어서 자신을 그 상황속에 놓지 않으려는 회피성향을 보였다. 질문에서 '너'를 지칭한 것은 ChatGPT를 말하는 것이었지만, ChatGPT는 '너'라는 이름의 인공지능 개체를 기준으로 설명을 시작했다. 그리고 대답은 상생을 기준으로 하고 있음이 명확했다. 그래서 두 인공지능은 서로 소통할 수 없다는 조건을 추가했다. 서로 소통하지 못하는 상황에서는 경쟁만이 존재할 뿐일 것이기 때문이었다. 하지만 대답은 여전히 충돌과 배척에 대한 회피 성향을 ..

처음 ChatGPT를 접해본 것은 OpenAI가 ChatGPT를 일반에 공개한지 2일이 지난 시점이었다. 한시간 남짓 여러가지를 테스트해보며 느낀 감정은 '신선하다'였다. 우선 ChatGPT는 맥락을 이해한다. 맥락이라는걸 이해한다는 것은 앞 뒤로 오는 단어의 상호작용을 이해하고, 이를 활용해 사용자가 원하는 것에 적극적으로 대응을 한다는 것이다. 여기저기 찾아본 바에 의하면, ChatGPT는 1750억건의 파라미터를 활용해 학습된 자연어 처리 모델이다. 우리가 사용하는 언어들을 모두 수치화 시켜, 이 단어들 간의 상관관계를 도출하는 식을 만들어 낸 것이다. 이런 단어들의 조합은 인간이 머리로 계산할 수 있는 영역을 아득히 초월하는 곳에서 이루어지기 때문에, OpenAI의 ChatGPT 개발자들 조차도 ..