베니거는 컨트롤 레볼루션에서 “산업화가 개진되고 제어의 위기가 심화되면서 관료제 자체를 제어하는 감사원 또는 감독관 조직도 급속히 발전했다”고 한 적이 있습니다. 시장의 효율보다 관료의 효율이 높아지면서, 관료 의존도가 강화됐고, 결과적으로 이 관료제를 제어하기 위한 또다른 감사, 감독관의 조직이 커진다는 의미였죠.

기술은 적지 않은 부분에서 관료제를 제어하기에 적합한 방식으로 발전해왔다고 생각하고 있습니다. 관료제 의사결정의 위계성 등을 넘어서기 위해 데이터 분석에 의한 의삭결정 방식이 다양한 형태로 등장했습니다. 인간을 제어하기 위한 기계의 관여라고 볼 수도 있겠네요.

하지만 여기서도 한계가 조금씩 드러나는 듯합니다. 페이스북의 인종차별적, 타깃 광고 설정이 가능하다는 비판이 프로퍼블리카를 통해 제기되면서 페이스북이 대응 방안을 발표했는데요. 앞선 선택과는 반대로 알고리즘을 감시하기 위한 인간의 관여를 늘린다고 합니다.

we're adding more human review and oversight to our automated processes. After manually reviewing existing targeting options, we are reinstating the roughly 5,000 most commonly used targeting terms – such as ‘nurse,’ ‘teacher' or ‘dentistry.’  

이것이 의미하는 바가 뭘까요? 산업화 단계에서 관료제의 제어를 위해 기계가 도입된 것처럼, 기계(알고리즘)의 제어를 위해 인간이라는 감사원, 감독관이 늘어난다는 상징적 신호가 아닐까요? 제어위기를 극복하기 위한 방식에 기계만이 아닌 인간의 역할이 다시금 강조되고 있다는 의미는 아닐까요?