AI 행위자가 AI 행위자와 거래할 때, 가격 발견은 사라진다

Hamoon Soleimani, 2026. 04. 18. (박종운 옮김)

자율 AI 행위자는 시장 거래 당사자 양쪽에서 능동적인 경제 참여자로 되어가고 있다. 기업 플랫폼에는 지금 납품업자들이 “비접촉식 운영”이라고 부르고 있는 기능이 삽입되고 있다. 인간이 살펴보는 과정 없이 획득 여부에 대한 의사결정을 실행하는 행위자를 가지고 운영되는 것이다. 블록체인 네트워크는 AI 행위자에게 지갑을 갖게 하고, 결제를 처리하게 하며, 포트폴리오를 자율적으로 재조정하게 하고 있다. 마이크로소프트 리서치는 이미 구매자와 판매자 모두가 AI 대리인인 쌍방 "행위자들의 시장"을 기록하고 있다.^<1> 대개의 논평은 이러한 변화의 속도 그리고 일관성을 칭찬한다. 이러한 칭찬은 옳지만, 재앙적인 점을 놓치고 있다. 거래의 양측이 모두 미리 지정된 효용 함수에 따라 최적화된 알고리즘일 때, 시장은 자신의 존재 이유가 정당화하는 한 가지를 하지 않게 된다. 즉 진정한 경제적 가치 발견을 멈추게 된다.

가격은 발견이지 위치가 아니다

가격은 단순한 숫자가 아니다. 프리드리히 하이에크의 정식화에 따르면, 가격은 탈중앙화된 경제 전체에 걸쳐 상대적 희소성을 숫자로 만든 압축된 신호이며, 수백만 개의 개별적인 가치 평가, 제약 조건, 기회비용을 종합하여 사정을 잘 모르는 사람들도 알 수 있는 정보로 변환한 것이다. 그의 1945년 논문 <사회에서의 지식의 활용(The Use of Knowledge in Society)>에서 주장하기를, 경제 문제는 근본적으로 수십억 명의 마음속에 흩어져 있는 지식, 즉 암묵적이고, 맥락에 따라 달라지며, 본질적으로 개인적인 지식의 문제이며, 오직 가격 시스템만이 누구도 모든 것을 알아야만 할 필요 없이도 이러한 지식을 전달할 수 있다고 했다.

핵심은 가격이 단순히 기존 정보를 전달하는 것이 아니라 새로운 정보를 생성한다는 점이다. 경쟁업체로 옮겨가기보다는 12달러를 지급하는 구매자는 알고리즘으로는 사전에 파악할 수 없는 자신의 선호와 기회비용에 대한 정보를 드러낸다. 코브던 센터(Cobden Centre)가 하이에크 논문 80주년을 기념하여 분석한 내용에서 적어놓았듯이,^<2> 이러한 지식의 상당 부분은 암묵적이고, 정량화할 수 없으며, 오직 거래 행위 자체를 통해서만 발견된다. 가격은 인식론적 사건이다. 가격을 생성하는 행동하는 인간을 제거하면, 당신은 더 빠른 시장을 가지게 되는 것이 아니라, 근본적으로 다른 축소된 기구를 갖게 된다.

완전 정보 ​​함정

두 AI 행위자가 협상할 때, 구매 행위자는 예산, 품질, 납품 조건을 코드화한 효용 함수를 가지고 있고, 판매 행위자는 부가가치와 생산 능력을 코드화한 효용 함수를 가지고 있다. 두 행위자는 각각의 제약 조건을 모두 만족하는 가격에 모인다. 한 숫자가 출현하지만, 그러나 이는 아무것도 발견하는 것이 아니다. 그것은 양측에 할당된 목표 함수에 이미 암묵적이지 않은 채로 있는 것이다. 협상은 알려진 매개변수 공간 내에서 조정 문제를 푸는 것일 뿐이다.

게임 이론적으로 보면, 이것은 균형점을 미리 계산할 수 있는 완전 정보 ​​게임과 보상이 게임 행동 자체에 의해 부분적으로 결정되는 진정한 불확실성 게임의 차이라고 볼 수 있다. 시장이 가치 있는 이유는 엄밀하게 말해서 시장이 후자에 해당하기 때문이다. 신제품을 출시하는 기업가는 그 제품의 가치가 얼마인지를 알지 못하며, 소비자 또한 마찬가지이다. 출현된 가격은 쌍방 누구도 이전에 가지지 못했던 가치를 발견하는 과정이다. 미리 정해진 효용 함수에 의해 제약되는 행위자 간 시장은 이러한 일을 할 수 없다. 이즈리얼 커즈너는 아직 인정된 대상으로 존재하지 않는 이윤 기회를 감지하는 능력을 “기업가적 기민함”이라고 불렀다.^<3> 그는 이러한 기민함이 경제 성장의 원동력이라고 주장했다. 이러한 기민함은 목적 함수 안에 코드화할 수 없다. 자율적인 행위자는 구조적으로 이러한 능력을 갖추지 못한다.

굿하트의 시장 규모 법칙

두 번째 병리 현상은 행위자들이 시장을 지배할 때 나타난다. 바로 잠재적인 가치 경쟁보다는 상대방의 목표 함수를 조작하려는 유인이 그것이다. 획득 담당자가 가격, 품질 등급, 납품 속도를 종합한 점수로 납품업체를 평가한다는 것을 알고 있다면, 최적의 전략은 실제 성과를 개선하는 것이 아니라 그 점수를 조작하는 것이다. 이것이 시장 규모에서 작동하는 굿하트(Goodhart)의 법칙이다. 인간 구매자라면 결국 이를 알아차리고 자신들의 틀을 수정한다. 하지만 고정되거나 느리게 업데이트되는 목표 함수에 따라 작동하는 AI 행위자는 안정적인 악용 공간을 만들어낸다. 2025년 NBER 워킹 페이퍼^<4>는 자율 강화 학습 거래 알고리즘들이 명시적인 합의나 소통 없이도 경쟁 수준의 이익을 초과한 이익을 공모하고 유지하는 방법을 배울 수 있다는 점을 보여주었다. 이는 명시적인 소통을 탐지하는 식으로 세워진 현재의 반독점 프레임워크로는 전혀 딴지를 걸 수 없는 새로운 형태의 담합이다. 

진화의 동력이 불길하다. 지수 조작 전략은 실제 성과 비용을 최소화하면서 점수를 만족시키기 때문에 진정한 가치 전략보다 우수한 성과를 보인다. 조작이 확산할수록 지수는 가치를 대변하는 것으로서의 기능이 없어져간다. 그렇지만, 인공지능 평가자들은 계속해서 ​​이를 사용한다. 결국 시장은 모든 주체가 모든 지수를 조작하고 가격 신호가 유용한 경제 정보를 전혀 포함하지 않는 균형 상태에서 안정화된다. 

증거는 이미 여기에 있다

이는 단순한 추측이 아니다. 디지털 광고 시장은 역사상 처음으로 구매자와 판매자 모두 10년 이상 대규모로 AI 행위자로 운영되어 온 주요 시장이며, 인간의 선호 노출이 화면 밖으로 나갔을 때 어떤 일이 벌어지는지를 보여주는 살아있는 실험장이다. 스파이더 랩(Spider Labs)의 2025년 광고 사기(詐欺) 관련 보고서에 따르면^<5> 전 세계 손실액은 414억 달러를 넘어설 것으로 추산되며, 이는 2024년의 377억 달러보다도 증가한 수치이다. 2028년에는 손실액이 1,720억 달러에 달할 것으로 예측하고 있다.^<6> 현재 전체 디지털 광고 지출 20~30%를 소비하는 것은 사기 행위,^<7> 즉 실제 사람의 관심을 대신하여 알고리즘 타겟팅 기준을 충족하는 봇과 클릭 농장들에 의해 이루어지고 있다. 임퍼바(Imperva)의 2025년 악성 봇 보고서^<8>에 따르면 악성 봇이 전체 인터넷 트래픽의 37%를 차지하고 있다. 구매 알고리즘은 진짜 관심과 그들의 기준을 충족하는 봇 신호를 구분하지 못한다. 판매 알고리즘은 구매자가 돈을 지급할 만한 신호라면 무엇이든 만들어낸다. 이러한 균형은 안정적이면서도 재앙적이다. 수십억 달러가 인간의 마음을 움직이는 광고에 배분되지 않는 시장을 통해 유통되고 있는 것이다. 

효율성은 잘못된 방어논리이다

주류 경제학은 오랫동안 효율성을 근거로 시장을 옹호해 왔다. 그러나 그러한 방어논리는 강력한 최적화 알고리즘이 알려진 자원 배분 문제를 시장이 하는 것보다 더 잘 풀 수 있다는 반박에 끊임없이 취약성을 지니고 있다. 알고리즘이 더욱 능력 있게 될수록 이러한 반박을 기각하기는 더욱 어려워진다. 하지만 효율성의 틀로 보기란 시장이 무엇을 하기 위해 존재하는가를 잘못 규정하는 것이다. 하이에크의 통찰^<9>은 시장이 기존 정보를 효율적으로 활용한다는 것이 아니다. 그것은 시장이 시장 과정 이전에는 존재할 수 없는 정보를 생성한다는 것이다. 이러한 의미에서, 행위자 대 행위자 경제는, 아무리 형식적으로 분산되어 있을지라도, 시장 경제보다는 중앙 계획 경제에 더 가깝다. 행위자의 목표 함수는, 계획자가 생산 목표를 설정하는 것처럼, 주인인 인간에 의해 설정된다. 협상은 서로 간에 이러한 목표를 실행하는 것이다. 교환이라는 겉모습은 유지되지만, 발견이라는 본질은 유지되지 않는다.

반드시 이루어져야 할 일

결과적으로 일어나는 교환들에 대한 중간중간 인간의 승인은, 관료주의적 지연이 아니라, 인식론적 기반으로 대우받아야 한다. 2025년 가트너 조사(Gartner survey)를 보면,^<10> IT 리더들의 74%가 이미 완전 자율 행위자를 새로운 공격 위험인자로 인식하고 있는데, 이러한 제도적 저항은 없앨 것이 아니라 오히려 심화시켜야 한다. 반독점 규제는 명시적인 의사소통을 탐지하는 것을 넘어 진화해야 한다. 전미 경제 연구소(NBER)의 담합 연구는^<11> 새로운 형태의 담합이, 현행법의 적용 범위에서 완전히 벗어나 있지만, 카르텔 행위와 구별할 수 없는 반경쟁적 결과를 초래한다는 것을 입증했다. 그리고 경제학자들도 시장 설계에서 효율성을 최종 목표로 삼는 일을 중지해야 한다. 효율성은 도구일 뿐이며, 발견이 목적이다. 디지털 광고 시장의 재앙^<12>−지출의 3분의 1이 인간의 마음과는 무관한 1조 달러 규모의 시장−은 효율성 이야기가 아니다. 그것은 인간이 시장을 작동하게 하는 행위자이기를 멈출 때 자동화된 시장 모두가 어떻게 되는지를 미리 보여주는 것이다.

하이에크의 시장에 대한 옹호는 결코 알고리즘에 대한 옹호가 아니었다. 그것은 인간에 대한 옹호, 즉 어떤 목적 함수로도 코드화할 수 없는, 지역적이고 암묵적이며 개인적으로 발견한 지식을 바탕으로 행동하는 사람들의 대체 불가능한 인식론적 기여에 대한 옹호였다. 자율적인 행위자들이 확산함에 따라, 문제는 그것들이 효율적인가 여부가 아니다. 문제는 시장을 방어할 가치가 있게 만든 단 하나의 속성, 즉 우리가 이전에 알지 못했던 것을 알려주는 능력을 인간들이 보존할 것인지, 아니면 조용히 소멸시킬 것인지이다.

주)

^<1>. https://www.microsoft.com/en-us/research/publication/magentic-marketplace-an-open-source-environment-for-studying-agentic-markets/

^<2>.https://www.cobdencentre.org/2025/09/f-a-hayeks-use-of-knowledge-in-society-80-years-on/

^<3>.https://www.econlib.org/notes-on-hayeks-the-use-of-knowledge-in-society/

^<4>.https://www.nber.org/papers/w34054

^<5>.https://spideraf.com/press-releases/spider-labs-releases-2025-ad-fraud-report-estimated-global-losses-surpass-37-7-billion

^<6>.https://spideraf.com/articles/ad-fraud-trends-2025-key-threats-and-how-to-combat-them

^<7>.https://spideraf.com/articles/agency-ad-fraud-risks-how-to-protect-your-media-budget-in-2025

^<8>.https://www.imperva.com/resources/resource-library/reports/2025-imperva-bad-bot-report/

^<9>.https://www.cobdencentre.org/2021/02/f-a-hayek-on-the-discovery-use-and-transmission-of-knowledge/

^<10>.https://www.gartner.com/en/newsroom/press-releases/2025-09-30-gartner-survey-finds-just-15-percent-of-it-application-leaders-are-considering-piloting-or-deploying-fully-autonomous-ai-agents

^<11>.https://www.nber.org/papers/w34054

^<12>.https://spideraf.com/articles/ad-fraud-trends-2025-key-threats-and-how-to-combat-them

글쓴이) Hamoon Soleimani

하문 솔레이마니는 계량 분석, 정치학, 경제학, 그리고 기술에 깊은 관심을 가진 토목 기술자이다.

출처) https://mises.org/mises-wire/when-ai-agents-trade-ai-agents-price-discovery-dies

옮긴이) 박종운(전 자유민주시민연합 사무총장)