아르노비오 모렐릭스(Arnobio Morelix) / 실리콘 밸리에서 기술, 경제 및 정책의 교차지점에서 일하는 그는 세계기업가정신네트워크(GEN, Global Entrepreneurship Network)의 수석 고문이자 비즈니스 소수계 엔젤투자 협회(Business Angel Minority Association) 자문위원회의 일원으로 일하고 있습니다.

*본 칼럼은 <리부트: 삶, 죽음, 기술의 새로운 세상에서의 파격적 성공과 공정을 위한 흔치 않은 가이드(Rebooted: An Uncommon Guide to Radical Success and Fairness in the New World of Life, Death, and Tech)> 에서 각색되었습니다.

공정성 부채: 기술 부채의 쌍둥이 형제

소프트웨어 개발에서 기술 부채는 단기적으로는 그 기능을 하지만 장기적으로는 확장하기가 까다롭고 비효율적인 임시방편으로서의 코드를 설명하는데 사용된다. 개발자들에게는 익숙한 컨셉이기도 하다.

이제는 기술 부채의 쌍둥이 형제인 공정성 부채에 대해서도 알아야 할 때이다.

기술 부채처럼, 공정성 부채는 우리가 현재 상황과 현재의 유저 베이스에는 맞는 시스템을 개발하고 계속해서 똑같은 솔루션만을 적용해 의도하지 않은 결과가 서서히 다가올 때 발생된다.

공정성 부채가 발생되는 한 방법은 제약 조건을 적용하지 않고 특정 성능 기준에만 맞추어 시스템과 알고리즘을 최적화하는 것이다. (예를 들어, 사용자의 웰빙과 같은 요소를 고려하지 않고 사용자의 앱 사용 시간을 최적화하는 것). 데이터 과학자들과 데이터 기술자들은, 비록 순진한 의도일지라도, 이러한 최적화 결정을 의도적으로 그리고 자주 내린다.

최적화의 자연스러운 과정에서도 공정성 부채가 발생되는 경우가 많다. 2015 구글 벤쳐스는 사용자가 앱에서 영상을 보는 시간을 위한 최적화를 하라고 조언했다. 물론, 처음에는 공학적 노력을 집중시키기 위한 합리적인 방법이지만 사용량이 사용자에게 피해가 될 만큼 늘어나면 문제는 심각해진다. 아마존의 AI 제품을 관리하는 누군가의 말을 빌리자면, “어떤 회사가 자신의 앱을 사용자들이 하루에 7~8분 사용하게 하려고 유도하는 것은 괜찮습니다. 하지만 사용자들이 그 앱을 하루에 7~8시간을 사용하게 될 때는 문제가 완전히 달라집니다.”

초기에는 회사가 아니라 사용자들이나 사회가 공정성 부채를 책임진다. 하지만 부채가 커지면, 우리 모두가 피해를 입게 된다. 관심을 위해서만 최적화된 스마트폰이나 앱을 개발하는 기업들이 받는 역풍, 그리고 사용자들 및 규제로부터 받는 역풍은 부채는 늦출 수는 잊지만 없어지지 않는다는 것을 전적으로 보여준다.

“관심 최적화”를 넘어서서 대출 수익성만을 위해 최적화하는 핀테크 회사와 같은 더 사악한 경우도 생각해보자. 알고리즘기반의 레드라이닝, 즉, 대출을 신청하는 특정 지역을 차별하기 위한 알고리즘을 적용하는 것이다. UC 버클리 대학의 연구자들이 실제로 이에 대한 증거를 발견하기도 했다. 이들의 연구에 의하면 핀테크 대출 기업들이 차별적으로 라틴계와 흑인인 담보대출 재융자 대출자들에게는 일년에 총 7억 65백만 달러 더 높게 청구하고 있다는 것을 발견했다. 

하지만 기술 부채처럼, 공정성 부채도 피할 수 있으며, 일찍이 갚을 수 있다. 온라인 소비자 핀테크 기업인 업스타트(Upstart)의 예를 보면 알 수 있다.

업스타트도 경험한 일이지만, 만약 여러분이 핀테크 창립자이거나 기술자인데 제품을 출시한지 체 몇 년 지나지 않아, 미국 소비자 금융 보호국(CFPB, Consumer Financial Protection Bureau)으로부터 여러분의 공정 대출 관행에 대한 검토를 언급하는 연락을 받았다고 상상해보길 바란다.

여러분은 어떻게 되든 빠르게 움직이며 기술과 사업을 향상시키고 키우는데만 집중해 왔을 수도 있다. 하지만 여러분은 규제가 엄격한 업계에서 일하고 있다. 그리고 여러분이 하는 일의 의도하지 않은 결과에 대한 관심은 나날이 커져가고 있다. 예를 들어, 엘리자베스 워런 그리고 더그 존스 미국 상원의원은 미 연방준비제도이사회(Federal Reserve), 연방 예금 보험 회사(FDIC, Federal Deposit Insurance Corporation) 그리고 CFPB에 알고리즘 기반의 대출에 대한 그들의 규제 입장을 묻고 있다.

규제기관들이 정확히 “공정성 부채”라고 언급하지는 않았지만 그들도 공정성 부채의 발생 가능성을 보고 있었다. 업스타트는 이를 심각하게 받아들였고 그 부채가 발생되지 않도록 했다.

처음부터 공정성에 초점을 둔 업스타트의 AI 기반 모델은 훌륭한 결과를 가져왔다. 너무나 훌륭해서 CFPB도 얼마나 그 모델이 잘 작동하는지를 널리 알렸다. 업스타트는 전통적인 대출 모델보다 23%에서 29%이상 더 많은 대출자를 승인했으며 모든 인종, 민족 및 성별에게 15%에서 17% 더 낮은 평균 연 이자율을 제공했다. 또한, 젊은 대출자들이 대출을 승인 받을 가능성은 32% 더 높았고 연 수입이 5만달러 이하인 대출자들이 승인 받을 가능성도 13% 더 높았다. 

기술 부채처럼, 공정성 부채도 불가피한 것이 아니라 선택이다. 할 수 있다면 애초에 발생시키지를 말고 가능하다면 일찍이 갚으시기 바란다. 그것이 올바른 선택이다. 이러한 선택을 하는데, 업스타트도 사용하고 피들러 랩스(Fiddler Labs)가 제공하는 “설명 가능한 AI(AI가 어떤 결정을 내리는지 또 왜 그러한 결정을 내리는지 이해할 수 있게 함)”가 여러분에게 도움이 될 수 있다. 기술과 알고리즘이 갈수록 더 감시 받고 조사를 받게 될 이 세상에서, 공정성 부채를 피하기 위해 노력하는 기업들은 분명 그 노력에 대한 보상을 받게 될 것이다.