지식층 사람들이 하는 대화나 연구 등을 유심히 보면
우리가 앞으로 어떤식으로 투자하고 혁신해야하는지 알 수 있는것 같습니다
ㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡ
벤지오 교수와 DeepMind, Oxford, OpenAI, Columbia Univ, Harvard, Stanford, Tronto 등의 멤버들이 preprint로 첨단 AI를 위한 국제 기구 설립에 관한 내용을 정리해 arXiv에 공개했네요.
근데 국제표준화나 규제 현장에 있는 분들이 아니다보니 상당히 아카데믹하네요. 현실은 더 전쟁터인데 말이죠^^
제목: International Institutions for Advanced AI
이 논문에서는 협업, 규제, 책임 있는 관행의 필요성을 강조하면서 첨단 AI 시스템으로 인해 제기되는 문제를 해결하기 위한 국제기구 설립을 제안합니다. 전문가 합의를 촉진하고 안전 표준을 설정하는 등 다양한 거버넌스 기능을 수행할 수 있는 네 가지 제도적 모델을 제시합니다.
주요 통찰과 교훈:
- 지속 가능한 개발을 위한 고급 AI 시스템의 이점을 보장하려면 국제 협력이 필수적입니다.
- 규제 조정을 통해 혁신에 대한 장벽과 AI 혜택의 공평한 분배를 줄일 수 있습니다.
- 강력한 범용 AI 시스템은 전 세계적인 위험을 초래하며 책임 있는 관행을 촉진하기 위한 국제적인 노력이 필요합니다.
- 전문가 합의 구축 및 안전 표준화를 포함한 거버넌스 기능을 국제적 수준에서 수행할 수 있습니다.
- 기존 조직은 제안된 네 가지 제도적 모델에 대한 선례를 제공합니다.
요약:
국제기구는 첨단 AI 시스템이 인류에게 혜택을 줄 수 있도록 하는 데 중요한 역할을 할 수 있습니다. 국제적인 협력은 지속 가능한 발전을 위한 AI의 능력을 발휘할 수 있으며, 규제 노력을 조율하면 혁신과 혜택의 확산에 대한 장애물을 줄일 수 있습니다. 반대로, 강력하고 범용적인 AI 시스템의 잠재적인 위험성은 개발 및 배포 과정에서 글로벌 외부효과를 발생시키며, 책임감 있는 AI 관행을 강화하기 위한 국제적인 노력은 이러한 위험을 관리하는 데 도움이 될 수 있습니다. 이 논문에서는 이러한 문제를 해결하기 위해 국제적 차원에서 수행할 수 있는 일련의 거버넌스 기능을 식별하며, 여기에는 첨단 AI 시스템에 대한 접근 지원부터 국제 안전 표준 설정에 이르기까지 다양한 기능이 포함됩니다. 이 논문은 이러한 기능을 내부 시너지 효과를 발휘하고 기존 조직에서 선례가 있는 네 가지 제도적 모델로 분류합니다: 1) 첨단 AI의 기회와 위험에 대한 전문가 합의를 촉진하는 프론티어 AI 위원회, 2) 첨단 모델의 글로벌 위협을 관리하기 위한 국제 표준을 설정하고 이행을 지원하며 향후 거버넌스 체제 준수 여부를 모니터링하는 첨단 AI 거버넌스 기구, 3) 첨단 AI에 대한 접근을 촉진하는 프론티어 AI 협업, 4) AI 안전 연구를 위해 선도적인 연구자와 엔지니어를 모으는 AI 안전 프로젝트가 바로 그 예입니다. 이러한 모델의 유용성을 살펴보고 실행 가능성에 대한 미해결 과제를 파악합니다.
결론:
이 논문에서는 전 세계가 AI 거버넌스 및 안전 분야에서 기존 이니셔티브를 확대해야 하는 몇 가지 이유를 설명하고 이러한 요구를 해결하기 위한 네 가지 가능한 제도적 모델의 강점과 한계에 대해 논의했습니다.
전 세계의 이익을 위해 첨단 AI를 더 잘 활용하기 위해서는 소외된 사회가 첨단 AI 시스템에 접근하고 사용할 수 있도록 지원하는 국제적인 노력이 중요합니다. AI 시스템을 확보하고 배포하는 프론티어 AI 협력체는 소외 계층이 이러한 시스템을 효과적으로 활용할 수 있도록 지원하는 데 도움이 될 수 있습니다. 프론티어 AI 위원회는 국제적인 노력이 이러한 목표를 가장 효과적으로 달성할 수 있는 분야를 파악하는 데 도움이 될 수 있으며, 이 위원회가 작업의 정치화를 방지할 수 있다면 더욱 효과적일 것입니다. 이와 관련하여 혁신과 접근에 대한 마찰을 줄이기 위해 전 세계의 거버넌스 접근 방식을 조정하는 것이 중요할 것입니다. 가장 진보된 모델의 거버넌스에 대한 국제 표준을 설정하는 고급 AI 거버넌스 조직이 이를 촉진할 수 있습니다.
강력한 AI 시스템으로 인한 글로벌 리스크를 관리하기 위해서는 전 세계적으로 효과적인 AI 거버넌스 체제가 필요할 수 있습니다. 첨단 시스템으로 인한 글로벌 위협을 관리하기 위한 거버넌스 프레임워크를 수립하고 그 이행을 지원하는 첨단 AI 거버넌스 기구는 효과적인 규제 조치를 국제화하는 데 도움이 될 수 있지만, 현재와 같은 속도로 AI 발전이 계속된다면 신뢰할 수 있는 표준을 수립하기 어려울 수 있으며, AI 위험에 대한 글로벌 합의가 부족하다면 기구의 표준 채택을 장려하기 어려울 수도 있습니다. 프론티어 AI 위원회는 AI 위험과 그 완화에 대한 과학적 합의를 구축함으로써 거버넌스 노력을 지원할 수 있지만, 특히 이 주제에 대한 기존 과학 연구가 상대적으로 부족하기 때문에 빠르게 변화하는 위험 환경에 대해 과학적으로 신뢰할 수 있고 국제적으로 인정받는 설명을 제공하는 것은 어려운 일이 될 것입니다. AI 안전 프로젝트는 효율성과 모델 접근의 장애물을 극복할 수 있다면 AI 위험을 완화하는 기술적 방법이 개발되는 속도를 가속화할 수 있으며, 프론티어 AI 협력체의 기술은 오용되거나 잘못 조정된 AI 시스템에 대한 글로벌 복원력을 높이는 데 사용될 수 있습니다. 좀 더 구체적으로 거버넌스 조직과 협업의 기능은 경우에 따라 AI 위험을 악화시키는 지정학적 요인에 대응할 수 있습니다.
저희가 제시한 기능의 분류는 완전한 것이 아니며, 저희의 제도적 그룹화가 가장 유망하다고 주장하는 것도 아닙니다. 앞으로 다가올 AI 시스템이 가져올 엄청난 글로벌 기회와 도전을 고려할 때, AI 거버넌스를 위한 국제기구라는 주제는 훨씬 더 많은 분석적, 실천적 관심을 필요로 합니다.
arXiv: https://arxiv.org/abs/2307.04699
PDF: https://arxiv.org/pdf/2307.04699.pdf
arXiv-vanity: https://www.arxiv-vanity.com/papers/2307.04699
Paper page: https://huggingface.co/papers/2307.04699
Paper page - International Institutions for Advanced AI
International Institutions for Advanced AI Published on Jul 10 Authors: Lewis Ho , Joslyn Barnhart , Robert Trager , Yoshua Bengio , Miles Brundage , Rumman Chowdhury , Allan Dafoe , Gillian Hadfield , Margaret Levi , Duncan Snidal Abstract International i
huggingface.co
'경제적 이슈모음' 카테고리의 다른 글
| Self-Consuming Generative Models Go MAD (0) | 2023.07.17 |
|---|---|
| 폐암이 의심되거나 폐암과 관련이 없는 이유로 (2) | 2023.07.17 |
| x.ai에 대한정보 일론머스크 공개 (7) | 2023.07.17 |
| 중국, 한국 금리동결 지속되나? (1) | 2023.06.26 |
| 미국 증시는 ISM 서비스업 둔화, RBA 추가 금리인상 (1) | 2023.06.24 |