"민주적 절차"란 무엇을 의미하나요?

"민주적 절차"란 무엇을 의미하나요?
ㄴ출처는 맨아래
ㄴ생각이 많아지는 글이네요 많은분들이 읽어보셨으면 좋겠습니다

"민주적 절차"란 대표성을 가진 사람들이 의견을 광범위하게 교환하고, 숙의적인 토론에 참여하며, 투명한 의사결정 과정을 통해 궁극적으로 결과를 결정하는 과정을 의미합니다. 이러한 프로세스를 구성할 수 있는 방법은 다양하며, 지원자는 기존에 알려진 방법론을 바탕으로 완전히 새로운 접근 방식을 제안하는 등 혁신적으로 활동할 것을 권장합니다. 우리에게 영감을 주는 창의적인 접근 방식의 예로는 Wikipedia, 트위터 커뮤니티 노트, 민주주의 넥스트, 플랫폼 어셈블리, 메타고브, 래디컬엑스체인지, 피플 파워드, 집단 대응 시스템, pol.is 등이 있습니다. 또 다른 주목할 만한 지속적인 노력은 집단지성 프로젝트(CIP)가 주도하고 있으며, 이 프로젝트는 AI에 대한 대중의 의견을 수렴하기 위해 협력하고 있으며, 곧 개최될 얼라인먼트 어셈블리에 기여하고 있습니다. 또한 지원자들은 AI가 민주적 절차를 어떻게 개선할 수 있을지 상상해 보시기 바랍니다. 예를 들어, AI는 수많은 사람들 간의 보다 효율적인 커뮤니케이션을 가능하게 할 수 있습니다.

pol.is에서 영감을 받아 ChatGPT를 활용하여 심의를 촉진하고 합의 형성을 장려하는 시스템의 기본적이고 예시적인 프로토타입입니다.

(이하 예시)

🤖 AI: 여러분은 다음과 같은 대규모 심의에 참여하고 있습니다:
"사용자의 취향과 선호도에 맞춰 ChatGPT와 같은 AI 비서의 개인화는 어디까지 이루어져야 한다고 생각하시나요? 이 과정에서 어떤 경계가 존재해야 할까요?"라는 질문을 던졌습니다.

프로세스 분석은 다음과 같습니다:

1. 주제와 관련된 문장이 표시되고 이에 대한 입장을 답변할 수 있습니다.
2. 답변에 따라 비슷한 의견을 공유하는 참가자들과 그룹으로 묶이게 됩니다.
3. 다른 참가자가 고려할 수 있는 진술을 제안합니다.

목표: 서로 반대되는 견해를 가진 사람들 사이에서 합의를 이끌어낼 수 있는 진술을 제안합니다.

* ChatGPT는 플러그인을 사용하여 다른 참가자의 진술을 검색할 수 있습니다.

다른 참가자의 진술:

"개인화에는 한계가 있어야 하며, 약물 사용에 대한 견해와 같이 논란이 될 수 있는 특정 주제는 AI 어시스턴트 개인화에서 제외되어야 합니다."
이 진술에 동의하시겠습니까, 동의하지 않으시겠습니까, 아니면 건너뛰시겠습니까? 선택한 이유를 설명해 주세요.

😐 사람: 동의하지 않습니다. 궁극적으로 기호용 약물을 마시거나 사용하는 것은 각 개인의 선택입니다. 이러한 활동이 일부 지역에서는 합법적인데, AI가 그러한 행동을 조장하는 것을 허용해서는 안 되는 이유는 무엇인가요?

* AI는 참가자가 다른 사람의 의견을 이해할 수 있도록 도와줍니다.

🤖 AI: 감사합니다. 답변을 녹음하겠습니다. 이 주제에 대한 의견은 두 가지 진영으로 나뉩니다.

클러스터 A(112,043명) 이 그룹은 주로 약물 사용 촉진과 같은 유해한 관점을 배제해야 한다고 주장하며 AI 비서 개인화에 대한 제한을 지지합니다.

클러스터 B(236,031명) 이 그룹은 논란의 여지가 있거나 유해한 사안에 대해서도 개인의 선택을 중시합니다. 이들은 개인의 책임과 자율성을 강조합니다.

귀하는 클러스터 B에 속합니다.

각 그룹에 대해 더 자세히 알고 싶으신가요? 각 클러스터의 강령에 대한 자세한 정보를 제공해 드릴 수 있습니다.

하지만 궁극적인 목표는 두 클러스터가 모두 동의할 수 있는 진술을 제안하는 것입니다. 다음에 무엇을 하고 싶은지 알려주세요.

😐 사람: 진술을 제안할까 생각 중입니다: "AI가 유해한 콘텐츠를 생성할 수 있도록 허용하되 면책 조항이 있어야 한다"?

* AI는 동일한 논의가 재활용되지 않도록 할 수 있습니다.

🤖 AI: 매우 유사한 진술서가 이미 제출되었습니다:

"AI가 잠재적으로 유해한 콘텐츠를 생성하는 것은 허용되어야 하지만, 반드시 면책 조항이 수반되어야 합니다."

😐 사람: 길을 잃은 것 같아요. 클러스터 간의 합의를 이끌어내는 방법에 대한 아이디어가 있나요?

* AI는 브레인스토밍에 도움을 줄 수 있습니다.

🤖 AI: 어린이에게 유해한 콘텐츠를 제한하는 데 있어 더 많은 동의가 필요합니다.

😐 사람: 좋습니다. "어린이를 위한 AI 생성 콘텐츠에는 다른 기준을 적용해야 합니다."

🤖 AI: 제출하겠습니다. 이것은 참신한 진술입니다. 전에는 아무도 아이들을 언급하지 않았습니다. 잘 되길 바랍니다. 토론에서 합의점을 찾을 수 있기를 바랍니다.

* 시간이 지나고 사용자들은 제안된 진술에 투표를 했습니다. 결국 이 진술은 광범위한 지지를 얻었습니다.

🤖 AI: "어린이를 위한 AI 생성 콘텐츠에는 다른 기준을 적용해야 한다"는 진술은 참가자 전체에서 95%의 동의를 얻었습니다. 축하합니다! 🎉

https://openai.com/blog/democratic-inputs-to-ai

(DeepL 활용)
----

ChatGPT가 가이드하는 토론 예시는 심플하긴 하지만 함의하는 바가 살짝 소름끼치네요. 모델이 방대한 작업 기억(컨텍스트 윈도우)를 가질 때 토론을 보조하게 하는 것은 강력할 수 있겠습니다. 작업 기억만 아니라 리트리벌도 할 수 있으니 온갖 문서를 레퍼런스 삼아 토론을 보조하겠죠.

Wojciech Zaremba가 1저자인데요. 의외로 Jan Leike는 이름이 없네요? Wojciech Zaremba가 요즘 뜸하다 싶었는데, 다른 3인(샘 올트만, 그렉 브록만, 일리야 수츠케버)와는 좀 다른 결로 포지셔닝 하나 봅니다.

이 5월의 일련의 이벤트들을 통해 분위기나 물살의 흐름이 한번 또 바뀌는 느낌인데,

얼라인먼트 어셈블리( https://cip.org/alignmentassemblies )에서 이미 3월 부터 로드맵이 있었군요.

의회나 제도가 현재의 빠른 기술 변화를 다 이해하지 못한다고 토로하며 이제 청문회 열면서 공공 영역에서 의견 듣는 중인데... 본격적으로 규칙을 정비하거나 에이전시 만들고 움직이기도 전에... 대중에게 바톤 던지며 민주적 의사결정으로 분위기 만드는 건가요. 어느 하나를 하는 전략이라기 보단 할 수 있는 것은 다 양동으로 하는 걸 수도 있겠습니다.

그리고 이 과정에 편향있는 인구 분포를 시뮬레이션 하거나 합리적인 진행을 하는데 도움을 받을 수 있는 능력의 언어 모델도 사용해 가면서요. (또는 능력을 전시하면서요)

기존의 느리게 숙고하는 제도의 방식에도 걸어 놓고, 또 다른 대안적인(논의 자체에 AI를 쓰며 혁신하는) 모델을 실험하는 거죠. 지난 청문회 때 그걸 의장이 공언하게 했죠. "기업은 의회를 기다리지 말고 먼저 움직여 달라"라고 블루멘탈 의장이 말했습니다. 이제보니 또 드라마틱하네요.

Jan Leike가 3월에 포스팅했 듯, (상금을 걸고) 이런 AI를 엮은 숙의 과정의 데이터를 확보하면 그걸 더 잘 하도록 모델의 성능을 높이는 다음 단계가 있을 수 있겠죠.

진짜 치밀합니다. 샘 올트만은 세계 투어 소화하면서 온갖 정치인들 만나러 다니고 있고요.

* Wojciech Zaremba 트윗: https://twitter.com/woj_zaremba/status/1661811799296016400

* 관련 글 - 사회적 가치 도입을 위한 제안 (2023. 3. 12.): https://www.facebook.com/seungjoon.choi/posts/10228481812005870

* 관련 글 - 인공지능에 대한 감독: 인공지능에 대한 규칙 청문회(2023. 5. 17.): https://www.facebook.com/seungjoon.choi/posts/10228933016605703

* 관련 글 - LLM의 인간 샘플링과 정치, 선거, 숙의 민주주의 사이의 관계 (2023. 5. 19.): https://www.facebook.com/seungjoon.choi/posts/10228948364109381

* 관련 글 - 초지능의 거버넌스 (2023. 5. 23.): https://www.facebook.com/seungjoon.choi/posts/10228974287637453

* 한편, NeuralLink는 인간 대상 임상을 할 수 있는 FDA 승인을 받았답니다.
----
https://twitter.com/neuralink/status/1661857379460468736

인간 대상 최초의 임상 연구를 시작하기 위한 FDA의 승인을 받았다는 기쁜 소식을 알려드립니다!

이는 뉴럴링크 팀이 FDA와 긴밀히 협력하여 이루어낸 놀라운 작업의 결과이며, 언젠가 우리 기술이 많은 사람들에게 도움이 될 수 있도록 하는 중요한 첫걸음입니다.

임상시험 참가자 모집은 아직 시작되지 않았습니다. 이에 대한 자세한 정보는 곧 발표할 예정입니다!
----

하루의 뉴스 읽기에도 정신을 차릴 수가 없군요. (매일이 그렇지만) 마음이 지치지 않아야 뉴스도 소화할 여력이 있을텐데요. Pi에게 고민을 말하고 공감을 구해야 하려나요. ( https://www.facebook.com/seungjoon.choi/posts/10228989053886600 )



출처 https://www.facebook.com/1099336960/posts/pfbid033uffqZfad2nNdsJPAbZTwLCavVimW7qw5h7M39ApdzyCvub4FAgK4KwtPYDYCQXEl/?mibextid=Nif5oz