(SeaPRwire) – “세상은 위험에 빠져 있습니다.” Anthropic의 보호 조사팀 리더가 사퇴 편지에 쓰며
AI 안전 연구의 리더인 Mrinank Sharma는 Anthropic에서 사퇴했으며, 전 세계적인 “연결된 위기”에 대한 수수께끼 같은 경고와 함께 “일정 기간 동안 눈에 띄지 않을 것”이라고 발표했습니다.
Oxford 대학 졸업자인 Sharma는 Claude 챗봇 제작회사의 보호 조사팀을 이끌었으며, 월요일 X에 자신의 사퇴 편지를 게시했습니다. 그는 “우리의 상황”에 대한 개인적인 깊이 있는 성찰을 서술했습니다.
“세상은 위험에 빠져 있습니다. AI나 생물 무기만이 아니라, 이 순간 일어나고 있는 일련의 연결된 위기 때문입니다.” Sharma는 동료들에게 썼습니다.
이러한 퇴사는 San Francisco에 기반한 AI 연구소 주변의 긴장감이 증가하면서 발생했습니다. 이 연구소는 더욱 강력한 시스템을 개발하려고 경쟁하고 있지만, 자신의 경영진들은 같은 기술이 인류에게 해를 끼칠 수 있다고 경고하고 있습니다.
또한, Anthropic과 Pentagon 간의 갈등이 넓어지고 있는 보도도 있습니다. 군대가 회사에서 강력하게 제시한 보호 조치 없이 자율 무기 목표를 위한 AI를 배치하려는 욕구 때문입니다.
Sharma의 사퇴는 Anthropic이旗舰 Claude 도구의 더욱 강력한 버전인 Opus 4.6을 발표한 후 며칠 만에 발생했습니다. 이는 안전 우선순위에 대한 내부 마찰을 암시합니다.
“제가 여기에서 일하면서, 우리의 가치观이 우리의 행동을 지배하는 것이 얼마나 어려운지 반복적으로 보았습니다.” 그는 썼습니다. “제가 자신 안에서, 조직 내에서 이를 보았습니다. 여기에서는 가장 중요한 것들을 우선시하지 않을 압박을 항상 받고 있으며, 더 넓은 사회에서도 마찬가지입니다.”
연구자 팀은 1년 전에 설립되었으며, “모델의 남용과 불일치”, 생물 테러리즘 예방, “재앙 예방” 등의 AI 보안 위협을 해결하는 임무를 맡았습니다.
Sharma는 AI 보조 생물 무기에 대한 방어를 개발한 자신의 일과 AI 어시스턴트가 우리가 인간적이지 않게 만들거나 우리의 인간성을 왜곡하는 방식을 이해하는 “최종 프로젝트”를 자랑스럽게 언급했습니다. 이제 그는 영국으로 돌아가 “시에 대한 학위를 탐구”하고 “일정 기간 동안 눈에 띄지 않을 것”이라고 의도하고 있습니다.
Anthropic의 CEO인 Dario Amodei는 자신의 회사가 상업화하고 있는 기술이 끼치는 위험에 대해 반복적으로 경고해 왔습니다. 작년에 발표한 거의 2만 단어의 에세이에서 그는 “거의 상상할 수 없는 파워”를 가진 AI 시스템이 “가까이 있다”며 “우리가 어떤 종족인지 테스트할 것”이라고 경고했습니다.
Amodei는 “자율 위험”에 대해 경고했으며, AI가 “자주 나가서 인류를 지배할 수 있다”고, 기술이 AI 기반 감시와 자율 무기를 통해 “전 세계적인 전설적 독재”을 가능하게 할 수 있다고 제안했습니다.
ບົດຄວາມນີ້ຖືກຈັດສົ່ງໂດຍຜູ້ສະເຫຼີມຄວາມຫນັງສືອື່ງ. SeaPRwire (https://www.seaprwire.com/) ບໍ່ມີການຮັບປະກັນ ຫຼື ການຢືນຢັນໃດໆ.
ປະເພດ: ຂ່າວຫົວຂໍ້, ຂ່າວປະຈຳວັນ
SeaPRwire ເຫົາສະເຫຼີມຄວາມຫນັງສືອື່ງສຳລັບບໍລິສັດແລະອົງກອນຕ່າງໆ ເຫົາຄຳສະເຫຼີມຄວາມຫນັງສືອື່ງທົ່ວໂລກ ຄັກກວ່າ 6,500 ສື່ມວນຫຼວງ, 86,000 ບົດບາດຂອງບຸກຄົມສື່ຫຼື ນັກຂຽນ, ແລະ 350,000,000 ເຕັມທຸກຫຼືຈຸດສະກົມຂອງເຄືອຂ່າຍທຸກເຫົາ. SeaPRwire ເຫົາສະເຫຼີມຄວາມຫນັງສືອື່ງສະຫຼວມພາສາຫຼາຍປະເທດ, ເຊັ່ນ ອັງກິດ, ຍີປຸນ, ເຢຍ, ຄູຣີ, ຝຣັ່ງ, ຣັດ, ອິນໂດ, ມາລາຍ, ເຫົາວຽດນາມ, ລາວ ແລະ ພາສາຈີນ.