대량살상 수학무기, 캐시오닐
대량살상 수학무기 캐시 오닐 지음/ 김정혜 옮김 / 흐름출판 수학 모형은 여러 가지 면에서 신을 닮았다. 신처럼 불투명해서 이해하기 힘들다. 각 영역의 최고 사제들, 즉 수학자와 컴퓨터 과학자들을 제외하고는 그 누구에게도 내부의 작동 방식을 보여주지 않는다. 그리고 신의 평결처럼, 잘못되거나 유해한 결정을 내릴지라도 반박하거나 수정해달라고 요구할 수 없다. 무엇보다 사회적 약자와 가난한 사람들을 차별하고 부자는 더욱더 부자로 만들어주는 경향이 있다. 나는 이런 유해한 모형들의 적절한 이름을 생각해보았다. 바로 '대량살상수학무기 Weapons of Math Destruction', 줄여서 WMD다. p.16 그 모든 놀라운 능력에도 불구하고 기계들은 공정성을 제고하기 위해 그 무엇도 조정할 수 없다. 최소한 기계 스스로는 그렇게 할 수 없다. 데이터를 샅샅이 조사하고 무엇이 공정한지 판단하는 것은 기계로선 절대적으로 불가능한 영역이며 지독히도 복잡한 일이다. 오직 인간만이 시스템에 공정성을 주입할 수 있다. p.259 그런 기계들은 매우 효율적이겠지만 약간 제멋대로며, 절대적인 불가지의 영역으로 남게 될 것이다. 누구도 기계들의 논리를 이해하거나 설명할 수 없는 세상이 올지 모른다. 만약 인간이 통제 수단을 되찾지 못한다면 어떻게 될까? 미래의 WMD는 강력하고 신비로운 존재가 될 것이다. 아니, WMD가 우리를 제멋대로 다루는데도 우리는 그런 사실조차 거의 모른 채 살아갈지 모른다. p.288 데이터 처리 과정은 과거를 코드화할 뿐, 미래를 창조하지 않는다. 미래를 창조하려면 도덕적 상상력이 필요하다. 그런 능력은 오직 인간만이 가지고 있다. 우리는 더 나은 가치를 알고리즘에 명백히 포함시키고, 우리의 윤리적 지표를 따르는 빅데이터 모형을 창조해야 한다. 그렇게 하려면 가끔은 이익보다 공정성을 우선시해야 한다. p.337 = 새 직장에 들어와서 보니까 온통 모르는 세계였다. 나는 작동 원리조차 가늠하기 힘든