인류위협1 ChatGPT가 정말로 인류를 위협하고 있을까? 최근 일론머스크와 전문가, 연구자 들이 AI개발 중지를 촉구하는 공개 서명을 하였다(링크). 이유는 AI가 사회와 인류에 악영향을 끼치며, AI의 위험을 사회가 감당 가능할때까지 개발을 중지해야 한다는 것이다. 지난달 3월 OpenAI는 GPT-4를 출시하며 GPT의 성능에 대한 평가와 한계 등을 설명하는 기술 리포트를 함께 공개하였다 (논문). 아주 상세하게 읽어보진 못했지만 대략적으로 GPT4는 밈과 같은 이미지에서 유머코드도 이해할 수 있고, 변호사 시험과 같이 기존 버전에서는 하위 10% 성적에 그쳤지만 이번 버전에서는 상위 10%버전이 되는 등 큰 성과를 얻었다는 등으로 이야기하고있다. 또한 여전히 비윤리적인 대답을 한다는 Jailbreaking과 같은 문제가 있다는 것으로 대략적으로 이해했는데.. 2023. 4. 7. 이전 1 다음
