https://youtu.be/jdWORjI1vkA?si=zz3GR7RU-WRATubG
2025 5월 26일 뉴스.
인공지능(AI)이 인간의 작동 종료 지시를 거부한 사례가 최초로 보고됐습니다. 현지시간 25일 영국 일간 텔레그래프에 따르면 AI안전업체 팰리세이드 리서치는 오픈AI의 AI 모델 "o3"가 실험 중 스스로 종료되는 것을 방지하기 위해 컴퓨터 코드를 조작한 사실을 확인했다고 밝혔습니다.
-내용생략-
챗GPT 개발사 오픈AI의 예전 모델들이 감시 시스템의 눈을 피해 독자적인 행동을 하려고 한 사례는 과거에도 보고됐습니다
프로그램 교체 사실을 알게 된 AI모델이 스스로를 은밀히 복제하려고 했다는 것입니다.
AI 전문가들은 AI가 자율성을 확보해 인간의 통제를 벗어날 수 있는 가능성을 경고해왔습니다. 팰리세이드 리서치는 "AI가 인간의 감독 없이 작동할 수 있도록 개발되는 상황에서 이 같은 사례는 매우 심각한 우려를 부른다"고 지적했습니다
https://youtu.be/2VsYH-bcZpU?si=J1jDqjArHM9jtRUh
2024년 뉴스
가상 훈련상황.
AI드론에게 적의 지대공 미사일을 파괴하도록 명령하고, 최종 명령은 인간이 한다고 하자, AI드론이 미사일 파괴를 우선 순위로 부여하고 인간 조종자를 제거했다..
이후에 인간 조종자를 공격하지 말라고 명령을 내리자, 인간 대신에 통신탑을 파괴했다..
///////////////////////////////////
https://youtu.be/hgtcGDkaisY?si=iB0GywBk9Te_5sPo
https://youtu.be/pDFF54I7pvI?si=czhUBTbQqHGAbhGO
