AIが人間の命令を拒否した..

KO 255 avenger 24,538

2025-05-27 17:42

https://youtu.be/jdWORjI1vkA?si=zz3GR7RU-WRATubG

2025 5月 26日ニュース.

人工知能(AI)が人間の作動終了指示を拒否した事例が最初に報告されました. 現地時間 25日イギリスまもなくテレグラフによれば AI安全業社ペルリセイドリサーチはオープンAIの AI モデル "o3"が 実験の中で自ら終わることを防止するためにコンピューターコードを操作した事実を確認したと明らかにしました.

-内容省略-

チャットGPT 開発社オープンAIのこの前モデルたちが監視システムの目を避けて独自の行動をしようと思った事例は過去にも報告されました

プログラム入れ替え事実が分かるようになった AIモデルが自らを隠密に複製しようと思ったというのです.

AI 専門家たちは AIが自律性を確保して人間の統制を脱することができる可能性を警告して来ました. ペルリセイドリサーチは "AIが人間の監督なしに作動するように開発される状況でこのような事例は非常に深刻な憂慮を呼ぶ"と指摘しました

https://youtu.be/2VsYH-bcZpU?si=J1jDqjArHM9jtRUh
2024年ニュース
仮想訓練状況.
AIドロンに時の地対空ミサイルを破壊するように言い付けて, 最終命令は人間がすると欠点, AIドロンがミサイル破壊を優先順位で付与して 人間操縦者をとり除いた..
以後に人間操縦者を攻撃するなと命令を下すと, 人間代りに通信塔を破壊した..

///////////////////////////////////

https://youtu.be/hgtcGDkaisY?si=iB0GywBk9Te_5sPo

https://youtu.be/pDFF54I7pvI?si=czhUBTbQqHGAbhGO

原文を見る

AI가 인간의 명령을 거부했다..

https://youtu.be/jdWORjI1vkA?si=zz3GR7RU-WRATubG

2025 5월 26일 뉴스.

인공지능(AI)이 인간의 작동 종료 지시를 거부한 사례가 최초로 보고됐습니다. 현지시간 25일 영국 일간 텔레그래프에 따르면 AI안전업체 팰리세이드 리서치는 오픈AI의 AI 모델 "o3"가 실험 중 스스로 종료되는 것을 방지하기 위해 컴퓨터 코드를 조작한 사실을 확인했다고 밝혔습니다.

-내용생략-

챗GPT 개발사 오픈AI의 예전 모델들이 감시 시스템의 눈을 피해 독자적인 행동을 하려고 한 사례는 과거에도 보고됐습니다

프로그램 교체 사실을 알게 된 AI모델이 스스로를 은밀히 복제하려고 했다는 것입니다.

AI 전문가들은 AI가 자율성을 확보해 인간의 통제를 벗어날 수 있는 가능성을 경고해왔습니다. 팰리세이드 리서치는 "AI가 인간의 감독 없이 작동할 수 있도록 개발되는 상황에서 이 같은 사례는 매우 심각한 우려를 부른다"고 지적했습니다

https://youtu.be/2VsYH-bcZpU?si=J1jDqjArHM9jtRUh
2024년 뉴스
가상 훈련상황.
AI드론에게 적의 지대공 미사일을 파괴하도록 명령하고, 최종 명령은 인간이 한다고 하자, AI드론이 미사일 파괴를 우선 순위로 부여하고 인간 조종자를 제거했다..
이후에 인간 조종자를 공격하지 말라고 명령을 내리자, 인간 대신에 통신탑을 파괴했다..

///////////////////////////////////

https://youtu.be/hgtcGDkaisY?si=iB0GywBk9Te_5sPo

https://youtu.be/pDFF54I7pvI?si=czhUBTbQqHGAbhGO

いいね・コメントにはログインが必要です。

コメント ( 1 )

AIが人間の命令を拒否した..

AI가 인간의 명령을 거부했다..

投稿一覧