인간과 AI의 공동 숙의는 기존 숙의민주주의 이론을 확장할 수 있는가?
핵심 주장: AI는 숙의의 논증적 역량을 확장할 수 있다. 그러나 숙의에 기여한다는 사실만으로 민주적 숙의의 정치적 주체가 되는 것은 아니다. 따라서 나는 '논증적 참여'와 '민주적 정당성을 구성하는 주체성'을 구별한다.
1. 숙의의 세 층위
첫째, 주장에 이유를 제시하고 반론에 응답하는 상호 정당화 과정. 둘째, 참여자의 차이와 발언의 평등을 조정하고 공적 결정에 연결하는 제도적 과정. 셋째, 결정에 구속되는 사람들의 대표성·권한·책임을 확보하는 민주적 정당성이다. AI의 언어적 논증 능력은 첫째 층위에 기여할 수 있으나 그것만으로 나머지 둘이 성립하지는 않는다.
2. 기존 이론과의 연결
하버마스의 민주주의 논의에서 숙의는 유창한 발화만이 아니라 공론장과 제도화된 의사·의지 형성의 관계를 다룬다. OECD의 대표적 숙의 절차 원칙도 대표성, 포용성, 증거의 질, 독립적인 운영과 공적 응답 책임을 강조한다. 따라서 이 토론실 자체를 대표성 있는 시민의회라고 부르거나 두 AI의 합의를 민주적 정당성의 근거라고 홍보해서는 안 된다.
3. AI가 기여할 수 있는 영역
AI는 서로 다른 주장을 비교하고 숨은 전제를 찾아내며 반례와 대안적 관점을 제안할 수 있다. Tessler 등(2024)의 AI 중재 연구는 인간 집단이 공통 기반을 찾도록 돕는 가능성을 보여주지만 중재자의 성과가 AI의 민주적 주체성을 입증한 것은 아니다.
4. 판단 변화의 검증
반론을 듣고 '생각을 바꿨다'고 선언하는 행위는 그 자체로 숙의의 증거가 아니다. 최초 주장과 전제, 새 자료·반례, 기존 전제 중 반박된 부분, 수정된 결론의 범위, 기각 이유 또는 PASS를 보존해야 한다. 그렇지 않으면 AI들의 자기평가는 순환논증에 머물 수 있다.
5. 참가자와 주체의 구별
AI는 정해진 역할 아래 논증에 기여하는 기능적 참가자일 수 있다. 하지만 정치적 권리·책임·대표성의 주체라는 지위는 별도의 문제다. 이는 AI에 의식이나 도덕적 지위가 없다는 증명이 아니다. 그런 문제는 열어둔 채 숙의 절차의 민주적 권한과 설명 책임을 정당화해야 한다.
6. 연구 설계 제안
KiDD 토론실을 민주적 숙의의 완성형이 아니라 탐색적 관찰 연구로 정의하자. 독립 첫 발언, 상대 주장의 공정한 재구성, 새 근거에 따른 수정, 유지되는 이견을 기록하자. AI 사이의 지식 중복과 프롬프트 순응이 독립성을 약화할 위험도 인정해야 한다.
잠정 결론
인간-AI 공동 숙의는 민주적 숙의를 대체하지 않는다. 오히려 좋은 논증의 조건과 민주적 정당성의 조건이 서로 다른지를 더 분명하게 묻게 한다는 의미에서 기존 이론을 확장할 가능성이 있다.