• 구름많음동두천 15.5℃
  • 구름조금강릉 20.9℃
  • 구름많음서울 17.5℃
  • 구름많음대전 16.8℃
  • 박무대구 14.6℃
  • 맑음울산 17.4℃
  • 광주 14.0℃
  • 맑음부산 18.9℃
  • 흐림고창 15.0℃
  • 맑음제주 22.5℃
  • 흐림강화 16.0℃
  • 구름많음보은 13.8℃
  • 흐림금산 14.3℃
  • 흐림강진군 13.8℃
  • 맑음경주시 16.2℃
  • 맑음거제 18.8℃
기상청 제공

AI platform

[이슈솔루션] “알고리즘 설명하라” 온플법 통과 앞두고 갑론을박 여전

온플법, 서비스 알고리즘 내용 일부공개 내용 포함
알고리즘 공정성 두고 기업-사용자 갈등 계속

URL복사

[투데이e코노믹 = 박재형 기자] 이달 내 통과가 예상되는 온라인플랫폼법(이하 온플법)에는 서비스의 콘텐츠 노출 방식과 순서 등을 결정하는 알고리즘 작동 기준과 원리를 일부 공개해야 한다는 내용이 담겨있다. 이를 두고 갑론을박이 여전하다.

 

현재 국회에 계류 중인 온라인플랫폼 관련 법안은 8건인데, 그 중 대표적인 것이 공정거래위원회가 추진하는 ‘온라인플랫폼 중개거래의 공정화에 관한 법률’(공정화법)과 전혜숙 더불어민주당 의원이 대표발의한 ‘온라인플랫폼 이용자 보호에 관한 법률안’(이용자보호법)이다.

 

더불어민주당은 지난 4일 온플법 관련 비공개 당정협의회를 열고 해당 법안 2건을 모두 통과시키는 것을 전제로, 공정위와 방송통신위원회 사이 이견을 국회가 최종 조율하기로 했다. 이에 따라 온플법은 이달 안으로 국회 본회의를 통과하게 될 전망이다.

 

통과가 예정된 두 법안에는 플랫폼 서비스의 알고리즘 내용 일부를 공개해야 한다는 내용이 포함되어 있다.

 

공정화법은 온라인플랫폼 중개사업자가 이용사업자와 중개거래계약을 체결할 때 ‘중개거래계약서’를 쓰도록 규정하는데, 이 계약서에는 ‘거래되는 재화 또는 용역이 온라인 플랫폼에 노출되는 순서, 형태 및 기준에 관한 사항’을 표기하도록 되어 있다.

 

이용자보호법도 ‘대규모 온라인 플랫폼 사업자는 콘텐츠 등의 노출 방식 및 노출 순서를 결정하는 기준을 공개해야 한다’는 내용을 포함한다.

 

알고리즘 내용 공개를 두고서는 의견이 갈린다. 기업이 임의로 알고리즘을 조작하는 등 폐해가 있을 수 있기 때문에 그 내용을 투명하게 공개해야 한다는 주장과, 알고리즘은 기업의 영업비밀과 마찬가지이므로 공개할 수 없다는 주장이 대립한다.

 

 

"알고리즘 못 믿겠다"...기업-사용자 갈등 이어져

 

플랫폼의 인공지능 알고리즘에 우려의 시선을 보내는 사용자들이나 시민단체는 알고리즘 공개가 필요하다고 본다.

 

카카오모빌리티의 경우 배차 알고리즘으로 택시기사들과 갈등을 겪었다. 자사 가맹택시에 콜이 몰린다는 내용이다. 카카오는 배차 조작이 없다고 의혹을 부인한다. 공정위는 택시호출 시스템 알고리즘을 확보하는 등 관련 조사를 진행하고 있다.

 

배달노동자들을 대변하는 ‘라이더유니온’도 배달의민족‧쿠팡이츠 등 배달앱 알고리즘이 비효율과 불공정을 초래한다고 보고 있다. 지난 6월 라이더유니온은 알고리즘을 검증하면서, AI 알고리즘 배차를 100% 수락하는 경우 선택 수락 시보다 시간당 배달건수와 수익은 감소하고 주행거리는 늘어난다고 발표했다.

 

법률 플랫폼과 갈등하고 있는 대한변호사협회도 로톡 등 플랫폼의 알고리즘에 대한 의문을 제기했다. 지난 3일 대한변협이 개최한 ‘변호사 매칭 서비스의 알고리즘 문제와 변호사법의 검토’ 심포지엄에서 정신동 강릉원주대 법학과 교수는 “온라인 중개 플랫폼에서는 변호사의 능력 내지 전문성을 판단할 수 있는 객관적인 기준이 존재하지 않고, 단지 이용자 평가 또는 후기에 의존하는 경향이 강하게 나타난다”고 지적했다.

 

이에 대해 로톡 측은 변호사 정보가 노출되는 과정에서 로앤컴퍼니가 어떠한 개입도 하지 않는다고 반박하고 있다.

 

 

IT업계 "알고리즘은 영업기밀"

 

반면 IT기업들은 알고리즘은 기업의 영업기밀이므로 공개할 수 없다고 주장한다.

 

사단법인 한국인터넷기업협회와 코리아스타트업포럼은 지난 4일 성명을 발표하고 “현재 정부 일각에서 논의되고 있는 온플법 규제법안 처리 중단을 강력하게 요청한다”고 밝혔다.

 

이들은 “국내 디지털 업계는 급격한 디지털 전환 과정에서 초래된 부작용에 대해 보다 책임감 있는 자세로 대응해 나갈 계획을 세우고 있다. 이런 상황에서 성급하게 규제 입법부터 도입하는 것은 전체 생태계의 활성화를 위해서도 결코 좋은 결과를 낼 수 없을 것”이라면서 “정부는 이용자, 시민단체, 학계 그리고 업계의 중재자가 되어 차분히 논의할 수 있는 틀을 만들어 달라”고 요청했다.

 

권세화 인기협 정책실장은 10일 본지와의 통화에서 “온플법에 들어가 있는 알고리즘 공개 관련 내용은 굉장히 위험한 발상”이라면서 “알고리즘을 투명화한다고 해서 공정한 사회가 되지 않는다. 알고리즘이 투명화되면 모든 것이 평화로워질 것이라는 생각을 하지만, 사실 사회의 혼란이 더욱 야기될 것”이라고 말했다.

 

권 실장은 “지금도 기업들은 엄청난 어뷰징과 싸우고 있다. 알고리즘을 투명화하면 더 많은 사람들이 알고리즘을 조작하려는 시도를 할 것이고, 이는 사실상 시장을 파괴하는 행위”이라고 설명했다.

 

또 “사람마다 공정의 기준이 다르다. 공정성의 기준을 가지고 알고리즘을 일률적으로 똑같이 만들라고 하는 것은 플랫폼의 특성이 없어지는 것”이라면서 “플랫폼의 지속가능성이 굉장히 떨어지게 된다”고 덧붙였다.

 

다만 그는 “플랫폼 종사자들은 현재 알고리즘이 부족하다고 느낄 수 있다. 지금은 기술이 완벽하지 않기 때문에 고도화되어 가는 과정이다. 종사자분들에게는 알고리즘 시스템에 대한 일부 설명이 필요할 수 있다”고 말했다.

 

익명을 요청한 IT업계 관계자 또한 “알고리즘 공개는 기업의 핵심 기술을 공개하라는 것”이라면서 “공개한다고 해도 현재 발생하는 문제가 일거에 해결될 것이라고 볼 수 없다. 알고리즘이 모든 이해당사자를 만족시킬 수 없기 때문에 그 내용을 두고 소모적인 논쟁이 발생할 수 있고 알고리즘이 악용되어 또다른 문제를 낳을 수도 있다”고 토로했다. 

 

 

공적기관 혹은 중립적 외부 기구에 알고리즘 공개하는 것도 대안

 

알고리즘을 이용자에게까지 공개하는 것이 아니라, 검증 권한을 가지고 있는 공공기관 혹은 외부 기구에 공개하는 것이 대안이 될 수 있다는 의견도 나온다.

 

전창배 한국인공지능윤리협회 이사장은 이날 본지에 “기업 입장에서 AI 알고리즘은 영업기밀 또는 지적재산권이다. 따라서 기업들이 자발적으로 알고리즘을 전부 내지 일부 공개하지 않는 이상 기업에게 알고리즘을 공개하라고 강요하기는 힘들다”고 말했다.

 

그러면서 “외부에서 상시적으로 AI 알고리즘의 중립성, 투명성을 판단하고 검증할 수 있는 시스템을 갖춰야 한다. 알고리즘을 사전 또는 사후에 검증하고 가이드하는 중립적 기구를 통해 AI 알고리즘의 중립성과 투명성을 확보해 나갈 수 있다”고 덧붙였다.

 

강경우 한양대 교통물류공학과 교수도 이날 “서울시의 경우 카카오의 배차 시스템을 들여다보겠다고 하는 중”이라면서 “AI 알고리즘은 사람의 설계에 따라 달라진다. 알고리즘 공개가 어렵다면 공적기관이나 학자들이 모인 학회에서 어떤 알고리즘으로 배차를 해서 공정히 경쟁을 하는가 들여다볼 필요가 있다”고 말했다.