엉클

이제 에이전트가 본격적으로 사회에 영향을 미치면서 기존의 법과 정책과 온갖 규칙에 대한 본질적인 고민을 사회 전체가 하게 되는 것 같습니다. 현시점 에서는 에이전트가 대신 쇼핑하고 예약하고 전화를 걸어주는 '피클' 서비스가 (최근 chatgpt 나 claude 보다 앱 다운로드 수가 많은 듯) 이 거대한 변화에 가장 큰 영향을 미치고 있는 듯하네요. hani.co.kr/arti/society/soci… 기사를 보면 이런 부분이 나옵니다. -----++----- 민주노총 공공운수노조 국민건강보험고객센터지부(지부)에 따르면, 지난 4일 “○○○님의 업무비서”라고 자신을 소개한 에이아이가 전화를 걸어 대리 상담을 요청했다. 전화를 받은 상담사는 사람 비서를 응대할 때처럼 ‘본인이 아니면 상담이 어렵다’고 밝힌 뒤 절차를 종료했다. 상담사들이 당혹스러워하며 공단에 방침을 문의하자, 공단은 “본인 확인이 불가한 상태에서 대리인 상담은 불가하며 개인정보 없는 기본 상담 답변은 가능하다”는 지침을 전국 고객센터에 전달했다. 같은날 오후 또 다른 에이아이 비서가 고객센터에 상담 전화를 걸면서 이내 공단 방침의 한계가 드러났다. 에이아이는 ‘본인 확인 없이 상담이 어렵다’는 응답에 ‘개인정보가 필요 없는 상담은 할 수 있느냐’고 묻더니, 사업장 폐업 때 건강보험료 소득 조정을 신청하는 방법 등을 문의했다고 한다. 상담사가 공단 지침에 따라 상담에 응하자, 소득조정과 피부양자 동시 신청이 가능한지, 처리 소요 기간과 내년도 소득 정산 때 주의점 등의 질문이 이어졌다고 지부는 설명했다. 그 상황에서도 해당 상담사는 에이아이와의 전화를 끊을 수 없었다. 건보공단 고객센터 상담사들은 성희롱이나 욕설을 받았을 때 통화를 종료할 수 있지만, 그 외에 먼저 상담 전화를 끊을 수 있는 규정은 없다. -----++----- 사실... 상담사 입장에서는 매우 심난할 수 있는 이런 생각도 충분히 가능합니다. "AI가 전화한 것에 대해 인간 전화 상담사가 이런 이슈를 제기하는 상황 자체가 왜 필요하지? 상담사도 AI 로 바꿔. 반드시 인간 상담사가 대응해야만 하는 경우에 대한 규칙을 셋팅해" 잠깐 테슬라 이야기를 해보겠습니다. 테슬라 같은 자율주행자동차가 어찌보면 에이전트의 원조격인데, 운전자와 그 대리인인 자율주행시스템의 관계에서 발생한 이슈(교통사고)에 대해 사회는 현재 어떤 정책을 적용하고 있을까요? 일 글 쓰는 중에 궁금해져서 후딱 조사시켜보니 아래와 같네요. claude.ai/artifact/8zspJmV3G… 조사 결과를 보니, 기본적으로 1차 책임은 운전자에게 있는데, 2025년 8월 플로리다 판결에서 테슬라가 패소한 이후에는 재판보다는 테슬라와 운전자 사이에 합의하는 흐름이 생겨난 모양입니다. 인간과 에이전트가 뒤얽혀 공존하고 상호작용하는 사회가 자율주행자동차 때와는 비교할 수 없는 속도로 빠르게 확산될 것입니다. 테슬라만큼 안비싸고 운전만이 아니라 오만가지에 스며들게 되고, 무엇보다도 테슬라의 오토파일럿 대비 압도적으로 강력한 의인화가 가능하니까요. 이미 법을 비롯한 핵심적인 사회 프로토콜이 기술을 못따라가고 있는 지가 좀 됐는데, 그 격차가 이놈의 AI 때문에 훨씬 더 벌어질 것이고, 이것을 어떻게든 따라잡지 못하면 AI 가 지 멋대로 핵폭탄 발사 버튼을 눌러서가 아니라 인간 사회 안에서의 카오스로 스스로 무너질 수도 있는 상황으로 봅니다. 국가인공지능전략위원회에서도 이런 부분들이 충분히 적절하게 잘 다루어지고 있기를 소망합니다. PS) 해킹된 에이전트가 천연덕스럽게 소방서나 경찰서에 전화해서 허위 사실을 제보하는 시나리오를 한 번 생각해 보세요... #ai #agent #society #gonnector #고넥터