실전

united.ai Agent 예약 금지, 거래 권한이 새로운 경계로 부상

联合航空은 AI Agent가 승객을 대신해 항공권을 예약하는 것을 금지했다. 논쟁의 핵심은 모델의 지능이 아니라 승인, 결제, 책임의 범위다.

글자 크기

Agent가 항공편을 선택하고 정보를 입력하며 결제할 수 있다면, 플랫폼이 먼저 보완해야 하는 것은 도구 호출 기능이 아니라 승인, 감사, 책임의 경계다.

联合航空의 AI Agent 예약 금지, 거래 권한이 새로운 경계로 부상

미국 항공사联合航空은 AI Agent가 승객을 대신해 스스로 항공권을 예약하는 것을 금지했다. CBS News 보도 제목도 이를 다음과 같이 명시했다. United Airlines bans AI agents from booking flights on behalf of travelers.

이 사건은 AI 기술이 아직 충분히 성숙하지 않았다는 정도로 이해되기 쉽다. 그러나 시선을 모델 성능에서 거래 시스템으로 옮기면 훨씬 분명한 경계가 드러난다. 联合航空은 Agent가 여행 의사 결정에 참여하는 것을 반대한 것이 아니다. 비인간 주체가 결제, 변경, 취소를 독립적으로 수행하는 것은 허락하지 않겠다는 뜻이다.

Agent의 문제는 잘못된 버튼을 누를 때만 발생하는 게 아니다. 항공편을 검색하고, 양식을 채우고, 가격을 읽고, 결제를 제출할 수 있다면 실수가 실제 주문으로 이어질 수 있다.

이 소식은 Hacker News 메인 페이지에도 올라 269점과 245개의 댓글을 얻었다. 논점은 ‘Agent가 OTA를 대체할 것인가’보다 세 가지实际问题에 집중됐다. 누가 승인하고, 누가 결제하며, 문제가 생겼을 때 누가 책임질 것인가.

한 줄禁令가 제거한 것은 ‘대리 예약’ 권한

联合航空이 제한한 핵심은 정보 접근 권한이 아니라 거래 권한이다.

Agent는 여전히 사용자가 항공편을 비교하도록 도울 수 있다. ‘금요일 저녁에 샌프란시스코에서 뉴욕으로 가고 예산은 800달러’ 같은 요청에 맞춰 여행 일정을 정리할 수도 있다. 하지만 주문을 생성하고, 탑승자 정보를 입력하고, 돈을 결제하며, 항공편 변경을 처리할 수 있는지는 별개의 권한 문제다.

두 기능은 API 호출 한 번 차이처럼 보이지만 책임 구조는 전혀 다르다.

검색 결과가 잘못되면 사용자는 다시 검색할 수 있다. 미리 채워 넣은 양식에 오류가 있으면 보통 사용자가 확인한다. 그러나 Agent가 결제 API를 호출하면 생성되는 것은 주문 제안이 아니라 주문 확정이다. 이미 비용이 발생할 수 있고, 좌석도 선점됐을 수 있다.

따라서 联合航空이 실제로 차단한 것은 하나의 승인 관계다. AI Agent가 승객의 대리인 자격으로 금전적 결과를 낳는 예약 행위를 독립적으로 수행하지 못하도록 한 것이다.

이는 ‘AI의 항공권 추천 금지’보다 훨씬 제한적이며, ‘AI의 공식 사이트 이용 금지’보다는 더 엄격한 조치가 아니다. 플랫폼은 Agent가 전체 예약 과정에 참여하는 것을 막지 않았다. 다만 위험도가 높은 단계 직전에 멈추도록 요구했다.

联合航空은 Agent를 유입 경로로는 인정하지만 계약 당사자가 되게 하지는 않겠다는 입장이다.

모델이 강해질수록 권한은 오히려 좁아져야 한다

Agent를 차단했다는 사실이 아직 기술이 성숙하지 않았다는 뜻이라는 주장이 흔하다. 날짜를 잘못 입력했다면 검증을 몇 개 추가하면 되고, 항공편을 잘못 골랐다면 사용자에게 확인시키면 된다고 보는 것이다.

하지만 이런 해석은 단발적인 실수만 볼 뿐, Agent의 능력이 강화될수록 행동이 미치는 영향이 커지는 현상을 놓친다.

일반 사용자가 항공권 한 장을 살 때는 가격, 노선, 위탁수하물, 변경 및 환불 규칙을 살펴본다. Agent는 여러 선택지를 빠르게 비교한 뒤 차이를 자연어로 설명할 수 있다. 문제는 사용자가 명시하지 않은 선호까지 겉으로 그럴듯한 기본값으로 전환하기 쉽다는 점이다.

예를 들면 다음과 같다.

  • 사용자가 “뉴욕으로 가”라고 말하자 Agent가 환승이 필요한 항공편을 기본값으로 선택했다.
  • 사용자가 “오전에 도착해”라고 말하자 Agent는 가격이 더 낮지만 도착 시각이 요구사항과 맞지 않는 조합을 골랐다.
  • 사용자가 예산을 제시하자 Agent가 예산에 맞추기 위해 더 긴 환승 시간을 선택했다.
  • 사용자가 유연한 변경·환불을 요구하자 Agent는 기본 요금만 확인하고 다른 fare class는 비교하지 않았다.

이 사례들은 모두 기술 장애처럼 보이지 않을 수 있다. 더 문제적인 것은 사용자가各项 항목을 하나씩 검토하지 않은 과정에서 발생할 수 있다는 사실이다.

Agent의 추론, 검색, 양식 조작 능력이 강해질수록 수행할 수 있는 작업 체인은 길어진다. 항공편 조회만 담당하는 모델은 추천을 잘못해도 피해가 제한적이다. 결제할 수 있는 Agent의 실수는 곧바로 결제 시스템에 전달된다.

따라서 성능 향상이 권한 확대를 반드시 뜻하지는 않는다. 거래형 Agent의 경우 오히려 승인 범위를 좁히고 접근 가능한 자금과 상태 변화를 줄이는 방향이 더 합리적이다.

진짜로 부족한 것은 거래 수준의 identity protocol

Agent가 안전하게 항공권을 예약하려면 마지막 단계에 ‘구매 확인’ 버튼 하나를 띄우는 것으로는 부족하다.

일반 채팅 인터페이스와 고위험 거래 API의 차이는 응답 형식이 아니다. 완전한 거래 수준의 identity 및 감사 메커니즘을 갖추고 있는지다.

최소한 네 가지 기능이 필요하다.

첫째는 승인 credential이다. 누가 요청을 제출했고, 누구를 대표하며, 어떤 여정을 승인했으며, 허용 가능한 최대 금액이 얼마인지가 채팅 기록에만 남지 말고 검증 가능한 credential로 만들어져야 한다.

둘째는 결제 검증이다. Agent는 단순히 ‘사용자가 확인했다’라고 말할 수 없어야 한다. 결제 단계에서는 사용자 신원, 주문 금액, 수취 대상을 독립적으로 검증하고 확인 정보가 교체되는 것을 막아야 한다.

셋째는 변조 방지 로그다. 프롬프트 버전, 모델 버전, 도구 호출, 항공편 선택, 사용자 확인, 결제 결과, 최종 주문까지 기록해야 한다. 이러한 기록이 없으면 분쟁이 발생했을 때 각 당사자의 진술만 되짚을 수 있다.

넷째는 사람에 의한 확인 및 취소 메커니즘이다. 고액 결제, 변경·환불 불가, 출발 임박, 제3자 결제 주문은 명확한 사람 확인 절차를 거쳐야 한다. 확인 이후에도 제한된 시간 안에 주문을 취소하거나 수정할 수 있어야 한다.

다음 네 가지 credential로 이해할 수 있다.

subject: user_123
scope: flights.book
constraints:
  max_amount_usd: 800
  trip: SFO -> NYC
  refundable: true
user_confirmation: confirmed_at_2026-08-24T10:30:00Z
nonce: 7f3a9c

하지만 credential은 출발점에 불과하다. 서버는 여전히 일회성 nonce를 연결하고 금액과 여정 제약을 검증하며 확인 내용을 변조 불가능한 로그에 기록해야 한다. 그렇지 않으면 정적 JSON도 재사용될 수 있다.

여기에는 자주 간과되는 문제도 있다. Agent의 ‘최종 의도’와 사용자의 승인은 같지 않다.

사용자가 “내일纽约行 가장 빠른 항공편을 예약해”라고 말하면 의도는 분명하다. 하지만 Agent도 사용자를 대신해 특정 변경·환불 제한을 받아들여야 하는가? 한 번의 결제에서 서로 다른 두 fare class를 함께 사야 하는가? 이러한 문제들은 사전에 승인 단위를 정의해야 한다.

거래 수준의 identity protocol이 없다면 Agent는 더 빠른 자동화 스크립트일 뿐이다. 프로토콜을 갖추면 비로소 제약이 있는 추적 가능한 대리 주체에 가까워진다.

Hacker News의 269점은 무엇을 보여주는가

관련 보도는 Hacker News 메인 페이지에 올라 269점과 245개의 댓글을 얻었다.

원 보도: https://www.cbsnews.com/news/united-airlines-bans-ai-agents-booking-flights/ 뉴스 토론: https://news.ycombinator.com/item?id=50458900

269점은 극단적으로 높은 수치는 아니지만, 소수 사용자를 대상으로 한 API 호환성 문제만은 아니라는 점을 보여준다. 개발자가关注하는 것은 Agent를 상용화할 때 플랫폼의 규칙을 어떻게 설계해야 하는가였다.

한쪽 Opinions은 플랫폼이 Agent를 제한하면 Agent 개발자가 완전한 서비스를 제공할 수 없게 될 것이라고 걱정했다. 다른 쪽则 Agent가 주문을 낼 수 있게 허용했다가 항공료나 변경·환불 분쟁이 터지면 플랫폼이 곧바로 인터페이스를 제약할 것이며, 결국 개발자와 소비자가 더 큰 제한을 받게 된다고 보았다.

의견이 갈리는 근본 원인은 양쪽이 부담하는 위험이 다르다는 데 있다.

Agent 개발자에게 이 문제는 제품 기능의 공백으로 보인다. 항공사에서는 자금 손실, 잘못된 약정, 민원 처리가 Concern이다. 가장 바깥에 있는 사용자는 자신이 여전히 거래를 매끄러르게 완료할 수 있는지, 오류 발생 시 명확한 책임자를 찾을 수 있는지를 본다.

245개의 댓글은 또 다른 신호도 보여준다. 모두가 ‘확인 버튼 하나 추가’라는 답으로는 만족하지 않는다. 결제가 걸리기만 해도 신원, 권한, 증거, 오류 수정을 해결해야 한다. 더 강한 LLM으로 모델을 교체해도 이 문제는 자동으로 사라지지 않는다.

Agent ecommerce는 사라지지 않고 계층으로 나뉜다

联合航空의 제한이 모든 사이트가 AI Agent를 거부하는 방향으로 확대되기는 어렵다. 더 가능성 높은 시나리오는 거래 흐름이 여러 권한 등급으로 분리되는 것이다.

첫 번째 단계는 추천이다. Agent가 검색·비교·설명을 담당하고, 플랫폼은 트래픽이나 수수료를 얻는다.

두 번째 단계는 사전 입력이다. Agent가 맥락을 바탕으로 이름, 날짜, 좌석 선호를 채우지만 주문은 제출하지 않는다.

세 번째 단계는 임시 저장이다. Agent가 draft order를 생성해 일정 시간 동안 가격이나 좌석을 잠그고, 핵심 조항을 사용자에게 확인시킨다.

네 번째 단계가 결제다. 사용자가 최종 확인을 수행하거나, 허가된 주체가 승인 범위 안에서 대신 결제한다.

이러한 계층 구조는 단순한 ‘허용/금지’보다 Agent ecommerce에 적합하다. 자동화가 주는 효율성을 유지하면서도 플랫폼이 자금과 계약 관계에 대한 통제권을 유지할 수 있다.

결제 회사가 새로운 승인 허브가 될 수도 있다. Agent가 제출하는 것은 이미 결제가 완료된 카드가 아니라 주문 의도와 한도다. 항공사는 검증된 거래 요청을 전달받는다. 모든 단계에 독립적인 로그가 남고, 문제가 발생하면 추천, 사전 입력, 확인, 결제 중 어느环节에서 틀렸는지 확인할 수 있다.

물론 이런 설계는 개발 비용을 늘린다. 신원 연결, 감사 로그, 확인 상태 머신, 분쟁 처리는 단기간에 완성할 기능이 아니다. 이익률이 낮은 사업에서는 Agent 지원을 통해 직접 얻는 수익이 이 비용을 충당하지 못할 수도 있다.

따라서 단기적으로 Agent ecommerce는 객단가가 높고 복잡한 의사 결정이 필요한 영역에서 먼저 등장할 가능성이 크다. 기업 출장, 팀 구매, 플랫폼 간 쇼핑이 그렇다. 일반 항공권 주문은 사람이 직접 결제하는 방식이 유지될 가능성이 있다.

편집자 생각

联合航空의 이번 제한이 중요한 이유는 Agent 기술이 충분히 똑똑하지 않다는 것을 증명했기 때문이 아니다. benchmark가 자주 간과하는 사실이 드러났기 때문이다. Agent가 거래 흐름에 진입하면 정확률은 더 이상 답변 품질만의 문제가 아니라 자금과 계약 책임의 문제가 된다.

플랫폼이 일괄적으로 전면 차단하기보다 추천, 사전 입력, 임시 저장, 결제의 네 단계로 과정을 나눠 나갈 것으로 본다. Agent는 앞 단계에 참여할 수 있지만 마지막 단계에서는 독립적인 신원 확인이 필요하다는 방식이다. 과거의 채팅봇 웹사이트 연동과 달리, 이번에 플랫폼은 ‘작업을 실행할 수 있다 isn’t enough isn’t proof’뿐 아니라 ‘사용자가 실제로 이 특정 거래를 승인했다 isn’t proof’까지 증명해야 한다.

핵심적인 차이는 과거의 Agent 논의가 대체로 성공률에 집중했다는 점이다. 이제는 승인 단위, 감사 증거, 취소 비용까지 살펴야 한다. 联合航空이 더 세밀한 조건 아래에서 일부 예약 기능을 복원할지는 아직 알 수 없다. 그러나 결제 검증과 사람 확인을 재사용 가능한 거래 수준 identity protocol로 정착시키지 못한다면 더 강한 LLM은 플랫폼을 더 개방적으로 만들지 못하고 오히려 더 신중하게 만들 뿐이다.

출처: https://www.cbsnews.com/news/united-airlines-bans-ai-agents-booking-flights/