미국 상원 법률위원회(U.S. Senate Committee on the Judiciary)의 개인정보, 기술, 법률에 관한ㅡ 최승준님글

미국 상원 법률위원회(U.S. Senate Committee on the Judiciary)의 개인정보, 기술, 법률에 관한 소위원회에서 "인공지능에 대한 감독: 인공지능에 대한 규칙( Oversight of A.I.: Rules for Artificial Intelligence )"이란 제목으로 청문회가 열렸습니다. (2023. 5. 16.)

약 2시간 50분 정도 진행된 영상이 올라왔는데, https://www.judiciary.senate.gov/committee-activity/hearings/oversight-of-ai-rules-for-artificial-intelligence

시작이 흥미롭네요. 이번 논의의 의장을 맡은 Richard Blumenthal 의원이 녹음한 목소리로, 오프닝 리마크를 진행하는데... ChatGPT로 의원이 어떻게 이걸 말할지 생성하게 하고 의원의 목소리로 보이스 클로닝해서... 오늘 청문회의 함의가 어떠한 것인지 분위기를 딱 잡고 갑니다.

그 뒤로 이어지는 오프닝 내용 좋네요! Richard Blumenthal 의 트위터 계정에서 전체 영상이 올라와 있어서 이 쪽으로 보는 것이 더 편합니다.
https://twitter.com/SenBlumenthal/status/1658473356109451276

이 오프닝은 CBS News 에서도 클립으로 잘라서 공유했네요.
https://www.youtube.com/watch?v=Dfd6J3M-FSk
트랜스크립트: https://www.assemblyai.com/playground/v2/transcript/6gdb7dm0j0-513a-49da-8d3d-c79f970cff49

DeepL (오류 있는 번역이지만, 빠르게 뉘앙스를 파악하는데는 도움이 되는 듯 하여 일단 붙여넣기 합니다)
----
이번 청문회는 인공 지능에 대한 감독에 관한 것으로, 인공 지능의 규칙을 작성하기 위한 일련의 청문회 중 첫 번째 청문회입니다. 우리의 목표는 새로운 기술을 이해하고 책임을 물음으로써 과거의 실수를 되풀이하지 않도록 하는 것입니다. 이제 몇 가지 소개를 해드리겠습니다.

"우리는 기술이 규제를 앞지르고, 개인 데이터가 무분별하게 악용되고, 허위 정보가 확산되고, 사회적 불평등이 심화될 때 어떤 일이 벌어지는지 너무 자주 보아왔습니다. 우리는 알고리즘의 편견이 어떻게 차별과 편견을 지속시키고, 투명성 부족이 대중의 신뢰를 어떻게 약화시키는지 보아왔습니다. 이것은 우리가 원하는 미래가 아닙니다."

집에서 듣고 계셨다면 그 목소리가 제 목소리이고 제가 하는 말이라고 생각하셨을 수도 있습니다. 하지만 사실 그 목소리는 제 목소리가 아니었습니다. 그 단어는 제 것이 아니었고, 오디오는 제 플로어 연설을 학습한 AI 음성 복제 소프트웨어였습니다. 발언은 Chat GPT가 작성했습니다. 제가 이 청문회를 어떻게 시작할 것인지 물었을 때, 그리고 방금 결과를 들으셨을 때 저는 Chat GPT에게 왜 그런 주제와 내용을 선택했냐고 물었습니다.

그 대답은 블루멘탈이 소비자 보호와 시민권을 옹호하는 데 강력한 기록을 가지고 있다는 것이었습니다. 그는 데이터 프라이버시 및 알고리즘 의사 결정의 차별 가능성과 같은 문제에 대해 목소리를 높여 왔습니다. 따라서 이번 성명서에서는 이러한 측면을 강조하고 있습니다. 알트만 씨, Chat GPT의 지지에 감사드립니다. 진지하게 말하자면, 이 명백한 추론은 매우 인상적입니다. 저는 10년 후를 되돌아보면 우리가 처음 휴대했던 크고 투박한 휴대폰처럼 Chat GPT와 GPT 4를 바라보게 될 것이라고 확신합니다. 하지만 우리는 새로운 시대가 눈앞에 다가왔다는 것을 잘 알고 있습니다.

오디오와 신기하거나 유머러스하게 들릴 수도 있지만, 제 마음속에서 울려 퍼진 것은 '만약 내 목소리로 이렇게 말했다면 어땠을까? 우크라이나의 항복이나 블라디미르 푸틴의 리더십을 지지하는 내용이었다면 어땠을까?'하는 것이었습니다. 정말 무서웠을 겁니다.

그리고 그건 전망이란 단어를 사용하기에는 약간 무섭습니다. 알트먼 씨, 당신은 전망에 대한 약속뿐만 아니라 함정에도 주의를 환기시키는 데 매우 건설적이라고 생각합니다. 이것이 바로 우리가 오늘 당신을 이 자리에 불러낸 이유입니다. 그리고 당신과 함께해 준 다른 증인 여러분께도 감사드립니다.

지난 몇 달 동안 대중은 GPT와 Dally 같은 AI 도구에 매료되었습니다. Chat GPT가 수행하는 숙제나 이 도구가 작성할 수 있는 기사 및 사설과 같은 사례는 신기한 것처럼 느껴집니다. 하지만 이 시대의 근본적인 발전은 단순한 연구 실험 그 이상입니다. 더 이상 공상 과학 소설의 환상이 아닙니다. 현실이며 현재진행형입니다. 암 치료, 물리학 및 생물학에 대한 새로운 이해, 기후 및 날씨 모델링에 대한 약속은 모두 매우 고무적이고 희망적입니다. 그러나 우리는 잠재적인 피해도 알고 있으며 이미 경험한 바 있습니다. 무기화된 허위 정보, 주거 차별, 여성에 대한 괴롭힘, 사칭 사기. 음성 복제, 딥페이크. 이러한 것들은 다른 보상에도 불구하고 잠재적인 위험 요소입니다. 그리고 저에게 가장 큰 악몽은 다가오는 새로운 산업 혁명입니다.

수백만 명의 근로자가 이주하고, 수많은 일자리가 사라지고, 새로운 산업 혁명에 대비해 기술 교육과 재배치가 필요할 수 있습니다. 그리고 이미 업계 리더들은 이러한 과제에 주목하고 있습니다. Chat GPT의 말을 인용하자면, 이것이 반드시 우리가 원하는 미래는 아닙니다. 우리는 나쁜 점보다 좋은 점을 극대화해야 합니다. 이제 의회는 선택의 기로에 서 있습니다. 소셜 미디어에 직면했을 때도 같은 선택이 있었습니다.

우리는 그 순간을 포착하지 못했습니다. 그 결과 인터넷의 포식자, 어린이를 착취하는 유해 콘텐츠가 어린이를 위험에 빠뜨리고 있습니다. 블랙번 상원의원과 저, 그리고 법사위원회의 더빈 상원의원과 같은 다른 의원들이 이 문제를 해결하기 위해 노력하고 있습니다. 하지만 의회는 소셜 미디어에 대해 제때 대응하지 못했습니다. 이제 우리는 위협과 위험이 현실화되기 전에 AI에 대한 조치를 취해야 할 의무가 있습니다.

합리적인 안전장치는 혁신에 반대되는 것이 아닙니다. 책임감은 결코 부담이 아닙니다. 대중의 신뢰를 보호하면서 앞으로 나아갈 수 있는 토대입니다. 이는 우리가 기술과 과학 분야에서 세계를 선도할 수 있는 방법일 뿐만 아니라 우리의 민주적 가치를 증진하는 방법이기도 합니다. 그렇지 않으면 신뢰가 없으면 두 가지를 모두 잃을 수도 있다고 생각합니다. 이는 정교한 기술이지만 우리 법에 공통적으로 적용되는 기본적인 기대치가 있습니다.

투명성부터 시작할 수 있습니다. AI 기업은 시스템을 테스트하고, 알려진 위험을 공개하고, 독립적인 연구자의 접근을 허용해야 합니다. 우리는 스코어카드와 영양 라벨을 만들어 안전성과 신뢰성 제한에 기반한 경쟁을 장려할 수 있습니다. 특히 상업적 사생활 침해, 영리 목적, 사람들의 생계에 영향을 미치는 의사 결정 등 AI의 위험이 너무 극단적이어서 사용을 제한하거나 심지어 금지해야 하는 분야가 있습니다.

그리고 당연히 책임도 져야 합니다. AI 기업과 그 고객이 피해를 입혔을 경우 책임을 져야 합니다. 우리는 과거의 실수를 반복해서는 안 됩니다. 예를 들어, 기업이 비즈니스 결정의 파급 효과에 대해 미리 생각하고 책임을 지도록 하는 230조 조항은 가장 강력한 도구가 될 수 있습니다. 쓰레기 투입하면 쓰레기 배출이 되는 이 원칙은 여전히 적용됩니다. 우리는 이러한 플랫폼에 들어가든 플랫폼에서 나오든 쓰레기를 조심해야 합니다. 이번 공청회에서 우리가 발전시키는 아이디어는 앞으로 나아갈 탄탄한 길을 제공할 것이라고 생각합니다. 오늘 여러분과 함께 논의할 수 있기를 기대하며 이 정도로 마무리하겠습니다.

AI 업계는 의회를 기다릴 필요가 없습니다. 이 토론과 업계에서 나온 아이디어와 피드백, 그리고 많은 소셜 미디어 플랫폼에서 부족했던 자발적인 행동이 있기를 바랍니다. 그리고 그 결과는 엄청났습니다. 그래서 저는 우리가 바닥을 향한 경쟁이 아니라 상승하기를 바랍니다. 그리고 이번 청문회가 이 대화의 중요한 부분이 될 것이라고 생각합니다. 이번 청문회는 첫 번째에 불과합니다. 위원장과 저는 더 많은 청문회가 있어야 한다는 데 동의했습니다.

그리고 다른 업계 리더들도 초대할 예정입니다. 몇몇은 참석하기로 약속했습니다. 전문가, 행동, 그리고 대중의 많은 참여를 바랍니다.
----

증인으로 샘 올트만, 게리 마커스, 크리스티나 몽고메리가 참여했고요. 문서로 제출한 증언은 PDF로도 올라와 있습니다. 문서는 대강 훑어봤을 땐 각자의 주장과 레퍼런스가 있고요.

의원들이 어떤 질의를 하는지 보려면, 2시간 50분 분량의 영상을 보는 수 밖에 없겠네요.

짧은 영상 클립을 담은 트윗도 타임 라인에 보입니다.
https://twitter.com/jacyanthis/status/1658492416108707840
----
오늘의 '돈 룩 업' 모먼트

Richard Blumenthal 의원은 OpenAI CEO 샘 올트만에게 "가장 큰 악몽"이 무엇인지 물었습니다. 그는 대답하지 않았고, 그래서 게리 마커스는 알트먼이 최악의 경우는 "우리 모두의 정전"이라고 말했기 때문에 다시 물었습니다. 알트먼은 완곡하게 표현했습니다: "세상에 심각한 해를 끼치는 것"이라고 완곡하게 표현했습니다.
----

이 하부 위원회는 새로운 기술이 개인정보 보호, 데이터 보안, 공공 및 개인의 권리에 어떤 영향을 미치는지에 대한 논의를 진행하며 적절하게 대응하고 필요한 법적 제도를 개발하는 것이 목표라고 합니다.

샘 올트만 등이 증인으로 청문회에 참석해서 상원 의원들에게 증언을 했다는 것은 의원들이 정책을 논할 때 참고한다는 것이고, 이건 따라서 규제가 됐던 무엇이 됐던... 준비 수순에 있다고 봐야겠네요. 여기에는 이미 사회적 이슈/혼란과 거대 자본과의 복잡한 이해 관계가 있기 때문에 다각적인 공방과 논의가 펼쳐지리라 봅니다.

계속 시리즈로 진행된다고 하니 기대가 됩니다.

* 요즘 처럼 배포~ 배포~ 하던 폭주에는 브레이크가 슬슬 걸릴 수 있겠군요.

* 전체 영상도 유튜브에 있군요.
LIVE: OpenAI CEO Sam Altman testifies during Senate hearing on AI oversight — 05/16/23
https://www.youtube.com/watch?v=fP5YdyjTfG0
길어서 AssemblyAI에서 한번에 전사가 되지 않아 두번에 나눴습니다.

파트 1: https://www.assemblyai.com/playground/transcript/6gdha1xsbt-f5a9-48f4-8afc-8039fc0b2409

파트 2: https://www.assemblyai.com/playground/transcript/6gdcxvmnyr-b8f7-4492-9d3a-567de95b66aa

* 관련 글 - 제프리 힌튼의 우울: https://www.facebook.com/seungjoon.choi/posts/10228918452441608