애슐리 리브스 알바랩스 대표가 말하는 Edge AI, 검증 가능한 신뢰, 그리고 현실 세계 AI 인프라의 미래
AI가 데이터센터와 소비자용 애플리케이션을 넘어 항공기, 차량, 에너지 시스템, 기타 안전이 중요한 환경으로 확장되면서, “신뢰”는 더 이상 구호에 머물 수 없습니다. 이제 신뢰는 엔지니어링의 요구사항이자 리더십의 책임이 됩니다.
이번 디오타임스 리더스 인터뷰에서 애슐리 리브스 알바랩스 대표는 AI의 다음 프런티어가 왜 ‘검증 가능성’인지 설명합니다. 여기서 검증 가능성이란 AI 시스템이 무엇을 했는지, 어디에서 실행되었는지, 그리고 그 출력값을 신뢰할 수 있는지를 증명하는 능력을 의미합니다.
특히 시스템이 오프라인 상태에서 자율적으로 작동하고 현실 세계의 제약 속에서 운영될 때 이는 더욱 중요합니다. 그는 또한 한국과 아시아가 이러한 새로운 인프라 계층을 구축하고 검증하는 데 왜 핵심적인 지역인지, 그리고 규제와 책임성이 기술 역량을 따라잡아 가는 시대에 리더십은 어떤 모습이어야 하는지도 이야기합니다.
본인 소개와 그동안의 커리어 여정을 소개해 주시겠습니까? 엣지 AI(Edge AI)의 신뢰와 무결성에 집중하게 된 결정적인 전환점은 무엇이었나요?
제 커리어는 핀테크에서 시작해 이후 항공우주 분야로 이어졌습니다. 약 8년 동안 저는 유럽과 아시아를 오가며 제한된 연결성, 극한의 환경, 그리고 실패에 대한 허용 오차가 거의 0에 가까운 극한의 제약 조건에서 작동하는 시스템을 다뤘습니다. 이 작업의 상당 부분은 주로 정부나 공공 자금이 투입된 프로그램을 통해 유럽의 기관들을 아시아 파트너들(특히 한국, 일본, 대만 및 광범위한 동남아시아 지역)과 연결하는 일이었습니다.
결정적인 전환점은 AI가 단순한 데이터 센터나 소비자 앱을 넘어 항공기, 차량, 에너지 시스템 및 중요 인프라와 같은 극한의 환경으로 진입하는 것을 보았을 때 찾아왔습니다. 하지만 ‘신뢰’를 대하는 전제는 근본적으로 달랐습니다. 항공우주 분야에서 신뢰는 설계되고, 테스트 되며, 검증됩니다. 반면 대부분의 AI에서는 신뢰가 그저 ‘가정’될 뿐이었습니다. 그 격차는 더 이상 무시할 수 없는 수준이었습니다. 알바랩스(ArbaLabs)는 클라우드를 벗어나 오프라인 현실 세계로 진입하는 AI 시스템에 항공우주 수준의 검증, 책무성, 그리고 책임감을 부여하기 위해 설립되었습니다.
한 문장으로 알바랩스(ArbaLabs)는 어떤 기업인가요? 어떤 문제를 해결하고 있습니까?
알바랩스(ArbaLabs)는 조직이 배포 중이거나 배포된 후의 AI 시스템 동작을 검증할 수 있도록 지원하는 분산형 오프라인 신뢰 계층을 구축하는 기업으로, 특히 연결성, 클라우드 감독 또는 ‘맹목적인 신뢰’가 용납될 수 없는 환경에 필수적인 솔루션을 제공합니다.
엣지(Edge) 환경에서의 배포에 있어 ‘검증 가능성’이나 ‘무결성’을 현실적으로 어떻게 정의하시나요? 고객에게 있어 성공이란 어떤 모습입니까?
현실적인 관점에서 검증 가능한 AI란, 조직이 AI를 배포하고 지속적인 클라우드 가시성 밖에서 운영할 때 더 이상 약속이나 가정에 의존하지 않아도 됨을 의미합니다. 조직은 AI 시스템이 무엇을 했고, 어디서 실행되었으며, 그 결과물을 신뢰할 수 있는지 독립적으로 확인할 수 있습니다.
성공은 기존의 모델 지표로 측정되지 않습니다. 진정한 성공은 감사 과정에서의 확신, 사고 발생 시의 명확성, 그리고 규제 기관 및 파트너와의 신뢰도로 나타납니다. 문제가 발생했을 때, 조직은 불확실성 대신 명확한 증거를 갖게 됩니다.
현재의 비즈니스 모델은 무엇이며, 고객들은 일반적으로 귀사의 솔루션을 어떻게 도입하나요?
저희는 소프트웨어 도구 제공업체가 아닌 인프라 기업으로 운영됩니다. 고객들은 주로 단순한 정책 문서나 내부 통제만으로는 AI 리스크를 더 이상 관리할 수 없을 때 알바랩스(ArbaLabs)를 찾습니다. 오프라인 AI 시장은 아직 초기 단계이기 때문에, 저희는 이 분야에서 큰 선점 효과를 보고 있습니다.
도입은 일반적으로 오프라인, 자율 시스템, 또는 규제를 받는 고위험 배포 환경에서 시작됩니다. 이후 조직들이 ‘신뢰란 사후에 추가되는 것이 아니라 시스템 자체에 내장되어야 한다’는 것을 인식함에 따라 점차 그 범위가 확대됩니다.
핵심 제품이나 서비스는 무엇이며, 고객이 얻게 되는 구체적인 결과물은 무엇입니까?
저희는 주권형 하드웨어 배포에 중점을 두며, 기능보다는 결과를 우선시합니다. 고객은 AI 시스템을 불투명한 블랙박스가 아니라 책임을 물을 수 있는 기계로 다룰 수 있는 역량을 얻게 됩니다. 구체적으로는 위변조를 확인할 수 있는 AI 활동 기록, 감사 대비가 완료된 증거, 그리고 ‘조직이 주장하는 AI의 기능’과 ‘배포 후 실제로 증명할 수 있는 것’ 사이의 명확한 구분을 제공합니다. 이러한 구분은 향후 규제가 고도화됨에 따라 더욱 중요해질 것입니다.
현재 주로 집중하고 있는 산업과 사용 사례는 무엇인가요? 대표적인 시나리오 하나를 설명해 주실 수 있습니까?
저희는 항공우주, 산업 자동화, 에너지 시스템, 그리고 새롭게 부상하는 자율 플랫폼 등 규제가 적용되고 안전이 필수적인 상업 환경에 집중하고 있습니다. 대표적인 시나리오는 현장에서 오프라인으로 작동하는 AI 시스템입니다. 현재는 사고가 발생할 경우, 조직이 실제로 무슨 일이 일어났는지 신뢰할 수 있는 수준으로 재구성하지 못하는 경우가 많습니다. 검증 가능한 AI 인프라가 갖춰지면 이러한 불확실성이 증거로 대체됩니다. 대화의 초점이 ‘추측이나 책임 전가’에서 ‘책무성과 학습’으로 전환되는 것입니다.
구매자 및 의사 결정권자는 누구이며, 구매 결정을 이끄는 요인은 무엇입니까?
초기 관심은 주로 엔지니어링이나 보안 팀에서 시작되지만, 최종 결정은 결국 경영진, 컴플라이언스 책임자, 리스크 위원회 등 리더십 조직에서 내립니다. 결정을 이끄는 핵심 요인은 성능 최적화가 아니라 리스크 노출입니다. 즉, 규제 리스크, 평판 리스크, 그리고 자신의 행동을 설명하거나 방어할 수 없는 AI 시스템을 배포했을 때 초래될 장기적인 결과에 대한 우려가 결정을 이끕니다.
알바랩스(ArbaLabs)의 파트너 생태계는 어떻게 구성되어 있나요?
기반 인프라를 구축하기 때문에 파트너십은 필수적입니다. 저희는 제조업체, 시스템 통합업체(SI), 연구 기관 및 공공 프로그램과 협력하고 있습니다. 저희의 역할은 의도적으로 좁고 규율이 엄격하게 설정되어 있습니다. 알바랩스(ArbaLabs)는 신뢰 및 검증 계층에 집중하는 반면, 파트너들은 도메인 특화 배포, 제조 및 규모 확장에 집중합니다. 이러한 명확한 역할 분담은 생태계가 깊이 상호 연결되어 있는 아시아 시장에서 특히 중요하게 작용했습니다.
경쟁 구도는 어떻게 보시나요? 알바랩스(ArbaLabs)만의 차별점은 무엇입니까?
기존의 많은 접근 방식은 배포 전, 즉 학습이나 개발 단계에서 AI를 보호하는 데 중점을 둡니다. 그 작업도 물론 중요하지만, 대개 연결성과 중앙 집중식 제어를 전제로 합니다. 저희의 차별점은 배포 이후, 즉 AI가 자율적으로, 오프라인에서, 현실 세계의 제약 속에서 작동할 때 일어나는 일에 집중한다는 점입니다. 이 영역이야말로 기존의 많은 전제들이 무너지는 곳이며, 현재 규제가 집중적으로 따라잡기 시작한 곳이기도 합니다.
왜 한국과 아시아인가요? 이곳에서 어떤 것을 검증하거나 달성하고자 합니까?
저와 한국의 인연은 알바랩스(ArbaLabs) 창립 이전으로 거슬러 올라갑니다. 수년간 한국의 파트너 및 기관들과 일해왔는데, 한국의 가장 돋보이는 점은 복잡하고 추상적인 아이디어를 실재하고 신뢰할 수 있는 시스템으로 구현해내는 능력입니다. 알바랩스(ArbaLabs) 입장에서 아시아, 특히 한국은 인프라를 구축하고 검증할 수 있는 최적의 장소입니다. 반면 유럽은 규제, 소프트웨어 통합, 시스템 수준의 도입에 있어 독보적인 강점을 지니고 있습니다. 이 두 지역은 경쟁 관계가 아니라 상호 보완적인 관계입니다.
이러한 방향성은 정책적 차원에서도 점점 더 뚜렷해지고 있습니다. EU와 한국은 모두 책무성, 추적 가능성, 그리고 검증 가능한 행동을 강조하며 AI 거버넌스에 있어 비슷한 방향으로 나아가고 있습니다. 저희가 K-스타트업 그랜드 챌린지에 참가해 탑 5에 들고 최종 4위를 기록한 경험은, 한국이 이러한 변화의 장기적인 중요성을 잘 이해하고 있다는 사실을 다시 한번 확인시켜 주었습니다.
향후 12~24개월간의 최우선 과제와 마일스톤은 무엇입니까? AI 시대에 리더십이란 당신에게 어떤 의미인가요?
저희의 최우선 과제는 집중과 규율입니다. 핵심 인프라를 고도화하고, 실제 배포를 통해 이를 검증하며, EU의 AI 법이나 한국의 AI 관련 법안과 같은 새로운 규제 프레임워크에 맞춰 나가는 것입니다. 제게 있어 AI 시대의 리더십이란 단순히 기술의 역량이 아닌, 그 결과에 대해 책임을 지는 것을 의미합니다. 시스템이 더욱 자율화될수록 인간의 판단은 덜 중요해지는 것이 아니라 오히려 더 중요해집니다. 리더는 신뢰를 어디서 얻고, 어떻게 증명할 것인지, 그리고 기술을 언제 가속화하기보다 통제해야 할지를 반드시 결정해야 합니다.
