대량살상 수학무기, 캐시오닐

대량살상 수학무기

캐시 오닐 지음/ 김정혜 옮김 / 흐름출판

수학 모형은 여러 가지 면에서 신을 닮았다. 신처럼 불투명해서 이해하기 힘들다. 각 영역의 최고 사제들, 즉 수학자와 컴퓨터 과학자들을 제외하고는 그 누구에게도 내부의 작동 방식을 보여주지 않는다. 그리고 신의 평결처럼, 잘못되거나 유해한 결정을 내릴지라도 반박하거나 수정해달라고 요구할 수 없다. 무엇보다 사회적 약자와 가난한 사람들을 차별하고 부자는 더욱더 부자로 만들어주는 경향이 있다.
나는 이런 유해한 모형들의 적절한 이름을 생각해보았다. 바로 '대량살상수학무기 Weapons of Math Destruction', 줄여서 WMD다.
p.16

그 모든 놀라운 능력에도 불구하고 기계들은 공정성을 제고하기 위해 그 무엇도 조정할 수 없다. 최소한 기계 스스로는 그렇게 할 수 없다. 데이터를 샅샅이 조사하고 무엇이 공정한지 판단하는 것은 기계로선 절대적으로 불가능한 영역이며 지독히도 복잡한 일이다. 오직 인간만이 시스템에 공정성을 주입할 수 있다.
p.259

그런 기계들은 매우 효율적이겠지만 약간 제멋대로며, 절대적인 불가지의 영역으로 남게 될 것이다. 누구도 기계들의 논리를 이해하거나 설명할 수 없는 세상이 올지 모른다. 만약 인간이 통제 수단을 되찾지 못한다면 어떻게 될까? 미래의 WMD는 강력하고 신비로운 존재가 될 것이다. 아니, WMD가 우리를 제멋대로 다루는데도 우리는 그런 사실조차 거의 모른 채 살아갈지 모른다.
p.288

데이터 처리 과정은 과거를 코드화할 뿐, 미래를 창조하지 않는다. 미래를 창조하려면 도덕적 상상력이 필요하다. 그런 능력은 오직 인간만이 가지고 있다. 우리는 더 나은 가치를 알고리즘에 명백히 포함시키고, 우리의 윤리적 지표를 따르는 빅데이터 모형을 창조해야 한다. 그렇게 하려면 가끔은 이익보다 공정성을 우선시해야 한다.
p.337



=

새 직장에 들어와서 보니까 온통 모르는 세계였다. 나는 작동 원리조차 가늠하기 힘든 것들로부터 새로운 편리가 매일 숱하게 태어났다 죽었다가 다시 살아나기를 반복하는 것 같았다. 알지 못하는 것은 때로는 편하고 때로는 두렵다. 내 기분은 그 중간 어디쯤엔가 늘 있다.

이 산업에 대한 완전한 믿음을 가져야만 가까스로 해내는 시늉이라도 할 수 있는 직무를 맡고 있다. 그래서 요즘은 차츰 더 알아가는게 좋기도 하고 또 무섭기도 하다. 내가 몸담은 회사가 하는 일이 적어도 어떤 측면으로든 세상을 고루 더 나은 곳으로 만드는 것이었으면 좋겠다. 또 이 책의 저자처럼 선한 생각을 가진 기술자들이 많아지기를 바란다.