분당강제추행변호사 [책과 삶]과대 포장된 인공지능 ‘현주소’를 직시하라

페이지 정보

작성자 황준영 날짜25-12-15 16:49 조회2회 댓글0건

본문

분당강제추행변호사 19세기 말과 20세기 초 미국에는 뱀에서 추출한 기름을 만병통치약으로 포장해 사기를 치는 장사꾼이 많았다. 이들은 사람들의 건강에 대한 욕망과 의학에 대한 무지를 악용해 이익을 취했다. 뱀기름을 산 사람들은 아까운 돈을 날리거나, 최악의 경우에는 가짜 뱀기름에 포함된 유독성분 탓에 목숨을 잃기도 했다. 를 쓴 프린스턴 대학교 정보기술정책센터 소장 아르빈드 나라야난과 연구원 사야시 카푸르에 따르면, 인공지능(AI)의 능력과 위협을 과장하는 연구자, 기업, 미디어야말로 21세기의 뱀기름 장수들이다.
AI 분야의 ‘뱀기름 감별사’ 역할을 자처해온 저자들은 AI를 ‘예측형 AI’ ‘생성형 AI’ ‘범용 AI(AGI)’ ‘콘텐츠 조정 AI’ 등으로 구분해 논의를 진행한다.
저자들이 가장 강하게 비판하는 것은 예측형 AI다. 자동화된 의사결정 시스템인 예측형 AI는 제대로 작동하지 않거나 사회적 편견에 따라 작동한다.
미 프린스턴대 정보기술정책센터 소장과 연구원 ‘AI 버블’ 위험성 지적자동화된 의사결정 시스템‘예측형 AI’는 제대로 기능 못한다고 비판‘범용 AI’실현 가능성에 동의…일각‘인류 절멸’ 경고엔 “엉터리 주장”
네덜란드는 2003년 복지 사기를 적발해 고발하는 AI를 도입했다. 이후 6년 동안 부모 3000여명이 복지 사기 혐의로 고발됐다. 부모들은 근거도 모른 채 고발됐지만 이의를 제기할 수도 없었다. 불만이 누적된 결과 시작된 조사에 따르면, AI는 국적을 차별했다. 튀르키예나 모로코, 동유럽 등 저개발국 출신 부모들일수록 복지 사기를 저지를 위험이 높다고 예측한 것이다.
예측형 AI를 판매하는 기업들은 ‘인간의 감독 없이 사용하면 안 된다’는 유보조항을 내걸지만 책임을 회피하려는 알리바이일 뿐이다. 정부든 기업이든 어느 조직에서 AI를 도입했을 때 고위급들은 십중팔구 실무자들의 이의 제기보다는 많은 비용을 주고 구축한 AI의 판단을 더 신뢰한다. 미국 건강보험사 유나이티드헬스는 AI의 결정에 강하게 반대하는 직원들은 해고될 수 있다고 위협했는데, 나중에 알고 보니 이 AI가 내린 결정의 90%가 잘못된 것이었다.
천체 운행이나 대기 흐름 같은 물리적 현상과 달리 문화 현상이나 형사사법, 팬데믹 등 사람들의 행위와 관련된 사회적 문제들을 높은 확률로 예측하는 것은 불가능하다고 저자들은 말한다. 이런 문제에는 구성원들의 의지보다는 환경적 변수가 많이 작용하고, 그 변수들조차 정해진 법칙이 아니라 우연에 좌우되는 경우가 많다. AI의 머신러닝 시스템(데이터를 통해 패턴을 학습하면서 성능을 개선하는 알고리즘)은 이런 예측에 적합하지 않다. “정확히 예측하려면 세상에 존재하는 것보다 더 많은 인간의 데이터가 필요할지도 모른다.”
엑스나 페이스북 등 소셜미디어에서 유해한 콘텐츠를 잡아내는 ‘콘텐츠 조정 AI’도 결함이 많다. AI가 맥락을 인지하는 능력이 떨어지기 때문이다. 2021년 한 남성은 걸음마를 시작한 아들의 성기가 부어 있는 것을 보고 안드로이드폰으로 사진을 찍어 의사에게 보냈다. 구글 AI는 클라우드에 업로드된 이 사진을 아동 성학대로 판단하고 계정을 폐쇄한 뒤 경찰에 신고했다. 한 엑스 이용자는 만화 <캡틴 아메리카>에서 주인공이 나치를 후려갈기는 이미지를 올렸다가 나치 이미지를 사용했다는 이유로 AI에 의해 계정이 차단됐다. “소셜미디어 알고리즘이 사용자의 참여를 극대화하도록 최적화되었다”는 점을 고려할 때 이 문제가 개선될 여지는 많지 않다. 사람들은 자극적이고 위험한 콘텐츠를 자주 클릭하는 경향이 있고, 소셜미디어 플랫폼은 그런 행동을 부추기도록 설계돼 있다.
생성형 AI의 성능이 빠르게 개선되면서 일각에서는 인간의 지능을 넘어서는 AGI가 실현될 날이 머지않았다는 전망이 나온다. 저자들도 초지능을 갖춘 AGI가 언젠가는 실현될 것이라고 본다. 그러나 AGI에 의해 인류가 절멸할지도 모른다는 경고는 “엉터리 주장”이라고 일축한다.
AI의 위험성과 관련된 대표적인 것은 AI가 인간이 제시한 목표를 달성하기 위해 오히려 인간을 제거하는 상황이 닥칠 수 있다는 두려움이다. 저자들은 AGI가 그러한 반인간적·비윤리적 행동을 한다는 가정 자체가 어불성설이라고 말한다. “혼자 또는 자신의 창조자를 무시한 채 행동하는 AI가 AI의 도움을 받는 사람보다 장차 더 유능해질 것이라고 생각할 이유는 없다. AI가 혼자 어떤 일을 할지보다 사람들이 AI로 무엇을 할지를 훨씬 더 걱정해야 한다. 그리고 우리는 곧 악의적인 인간 행위자들의 위협에 직면하게 될 것이다.”
저자들은 위험한 AI 시스템의 출현을 막기 위해 AI 기술의 확산을 억제해야 한다는 일각의 주장에 대해서도 비판적이다. 그것은 소수의 회사들만 몰래 AI를 개발하도록 함으로써, 더 많은 사람들이 AI의 성능을 비판적으로 논의할 가능성을 줄이는 결과를 낳는다는 것이다.
AI의 위험을 과장하는 것은 오히려 AI의 능력을 광고해주는 역효과를 낳을 수 있다. 헨리 키신저 전 미국 국무장관, 에릭 슈밋 전 구글 최고경영자(CEO), 대니얼 허튼로커 MIT 교수는 2021년 라는 책에서 AI의 강력한 파괴력이 우려된다고 지적했는데, 저자들은 이 책이 “과학기술의 한계를 지적하기보다 오히려 그것을 전능한 대상으로 묘사하는 꼴”이 됐다고 짚는다.
저자들은 오픈AI가 챗GPT-4를 출시한 지 한 달도 되지 않은 2023년 3월 미국의 비영리 연구기관 미래생명연구소에서 발표한 공개서한에 대해서도 비판적이다. 서한은 모든 일자리의 자동화가 대량 실업으로 이어질 것이라고 했는데, 이는 ‘AI가 일반 업무에서 인간과 경쟁할 수 있게 됐다’는 오픈AI의 주장을 검증 없이 수용한 것에 불과하다는 것이다.
호주 시드니 해변 총기 난사 사건의 용의자 2명은 부자 관계라고 현지 경찰이 15일(현지시간) 밝혔다.
로이터통신 등에 따르면 호주 경찰은 시드니 본다이 해변 총격 사건의 용의자 2명은 50세 아버지와 24세 아들이라고 밝혔다.
용의자 1명은 현장에서 사살됐다. 경찰은 용의자 두 사람의 구체적인 신원과 사건을 일으킨 직접적인 범행동기가 무엇인지는 아직 발표하지 않았다. 경찰은 현재 제3의 용의자는 찾고 있지 않다고 했다.
두 사람은 전날 오후 6시 45분쯤 시드니 동부 본다이 해변에서 열린 유대인 행사에서 총기를 난사했다.
이번 사건으로 인한 사망자는 어린이 1명을 포함해 이날 기준 16명으로 늘었다. 부상자는 40명이다. 앤서니 앨버니지 호주 총리는 이번 공격을 유대인 공동체를 고의로 겨냥한 공격으로 규정하고, 이에 대응하기 위해 필요한 모든 자원을 투입하겠다고 밝혔다.
일부 시민이 위험을 무릅쓰고 총격범을 제압해 총기를 빼앗는 장면이 포착돼 화제가 되기도 했다. 라이언 파크 뉴사우스웨일즈(NWS)주 보건부 장관은 “이번 사건은 지역사회 전체와 특히 유대인 커뮤니티에 끔찍한 일”이라며 “어젯밤 우리는 인류 최악의 모습을 목도한 동시에 가장 훌륭한 모습도 지켜봤다”고 말했다.
지난 12월8일 정부는 코레일이 운영하는 KTX와 SR이 운행하는 SRT의 통합을 2026년 말까지 완료한다고 발표했다. 늦었지만 매우 잘된 처사라고 생각한다.
현재의 이원화된 고속철도 체계는 이명박·박근혜 정부에서 강하게 추진하던 철도민영화가 국민적 저항에 부딪히자 그를 우회하는 과정에서 탄생한 기형물이다. 이원화로 인해 SR은 핵심 업무의 대부분을 코레일에 의존하면서도 알짜 노선 운영상의 혜택은 독점하고, 반면 코레일은 수많은 비인기 노선과 적자 사업까지 운영하는 데 따른 손해를 감수해야 하는 비정상적 운영구조가 지속되었다. 문재인 정부에서 이를 시정하기 위해 통합을 시도했지만 지지부진했고, 윤석열 정부에서는 통합 논의를 중단하고 이원체제를 그대로 유지했는데, 지난 대선에서 이재명 후보가 고속철도 통합을 공약으로 내세웠다. 신정부 출범 6개월 만에 통합의 첫발을 내디뎠다.
철도산업에는 단순한 시장경쟁 논리를 적용하기 어렵다. 철도산업은 막대한 고정투자비용으로 인해 시장 규모가 커질수록 평균비용은 줄어들고 수익은 증가하는 산업이다. 경제학에서는 이러한 산업을 ‘규모에 따른 수익 증가 산업’이라고 하는데, 이 경우에는 여러 기업이 시장을 분할해 운영하는 것보다 하나의 통합된 기업이 큰 규모의 시장에서 영업할 때 비용 절감, 수익 증가, 혁신 유발 등 경제적 이익을 더 많이 누릴 수 있다. 이러한 산업은 종종 ‘자연독점’ 산업이라고도 하는데 이는 독점적 지위가 인위적 진입장벽에 의한 것이 아니라 생산기술의 특징에 기인한 것이라는 뜻이다. 규모에 따른 수익 증가 산업은 철도뿐 아니라, 대규모 투자를 요구하는 네트워크 산업이나 중화학 공업 등 우리 주변에 매우 많다. 우리나라의 경제개발이 성공할 수 있었던 것도 결국 선택과 집중, 그리고 수출을 통한 시장 규모의 확대라는 똑똑한 개발전략을 통해 규모에 따른 수익 증가라는 이점을 적절히 활용했기 때문이다.
철도산업에서는 여러 기업이 시장을 분할해 경쟁하면 (별다른 꼼수를 부리지 않는 한) 가격은 하나의 통합된 기업이 운영하는 경우보다 더 높아진다. 더욱이 철도산업에서는 노선에 따라서도 평균비용이 크게 다르다. 인구가 많은 노선에서는 평균비용이 매우 낮은 반면, 인구가 적은 노선에서는 평균비용이 매우 높다. 따라서 이러한 산업에서는 노선별 전체 비용을 감안한 평균비용을 이용해 가격을 책정한다. 인구가 많은 지역의 노선에서 발생한 잉여로 인구가 적은 지역의 노선에서 발생한 적자를 보전하기 위해서이다. 이러한 방식을 ‘지역 간 교차보조’에 의한 가격 책정 방식이라고 한다.
전통적으로 민영화나 이원적 분할체제를 옹호하는 측은 SR이 더 낮은 가격과 더 좋은 서비스로 소비자들에게 혜택을 돌려주었다고 주장한다. 하지만 이는 알짜 노선 운영으로 발생한 잉여의 일부를 SRT 이용자에게만 돌려준 것으로 진정한 의미의 가격 인하가 아니고 지역 간 교차보조도 아니다. 오히려 국민 전체가 공유해야 할 혜택을 자기들끼리만 나눈 것으로 비난받을 여지가 있다.
이번 통합으로 이원화된 분할체제가 낳은 노선과 시간대의 제약을 상당히 완화할 수 있으리라 기대한다. 아울러 인구소멸지역이나 비인기 노선의 경우에도 철도 운영이 정상화될 수 있을 것으로 보인다. 전 국민에게 평등한 교통접근권을 제공함으로써 철도의 공공성이 강화되고 철도산업의 경쟁력도 높아질 것으로 기대한다.
하지만 통합 과정에서 필연적으로 발생할 우려사항들도 존재한다. 첫째, 현재 SR노조 측이 통합에 따른 공공성의 확보에는 찬성하면서도 통합에 많은 우려를 표하는 이유 중 하나가 바로 인력 구조조정 우려 때문이다. 노동자들의 희생을 강요하는 통합이 되지 않도록 노력하길 바란다. 둘째, 적정한 철도서비스의 가격 책정에 대한 방안이나 노선 운영에 따른 경제적 비용편익에 대한 면밀한 연구와 분석을 진행해 철도경쟁력을 높이는 방안을 신속히 강구할 필요가 있다. 셋째, 적절한 인력 배치 문제와 적정 급여 체계에 대한 연구와 개선도 빠른 시일 내에 진행해야 한다. 넷째, 자연독점도 독점이니만큼 독점의 여러 가지 문제점에 대한 대비책과 감시 시스템 마련이 필요하다.
잘 준비된 통합으로 현재에도 세계 최고 수준의 서비스를 제공하는 대한민국의 철도산업이 한 단계 더 도약하는 계기가 되기를 바란다.

댓글목록

등록된 댓글이 없습니다.

QnA

입주문의/상담

분당강제추행변호사 [책과 삶]과대 포장된 인공지능 ‘현주소’를 직시하라

페이지 정보

본문

댓글목록