인공지능(AI) 기술이 급속하게 팽창하는 격변기 속에서 단순히 기술 도입 속도만을 높이기보다 윤리적인 안전장치를 확보하고 업무 워크플로우를 체계적으로 재설계하는 것이 기업과 개인의 성패를 가를 핵심 생존 전략이라는 제언이 나왔다. 지난 8월 5일, 경기스타트업캠퍼스에서 개최된 제6회 판교 퇴근길 밋업에서 헬로 AI의 김영욱 대표는 서킷 위의 제동력(윤리)이 바꾼 AI: (AX)의 패러다임이라는 주제로 강연을 진행했다.
마이크로소프트에서 13년간 근무하며 글로벌 실무 경력을 쌓은 김 대표는 인공지능의 폭발적인 발전 양상을 짚었다. 그는 마이크로소프트 CEO 사티아 나델라의 말을 인용하여, 우리는 달리는 기차의 바퀴를 멈추지 않고 갈아 끼우는 기술적 혁신을 이뤄내야 하는 동시에, 안전하게 제어하고 멈출 수 있는 브레이크인 윤리적 기준을 완벽하게 갖추고 달려야 한다고 비유했다.
김 대표는 마이크로소프트의 책임 있는 AI 6대 원칙인 공정성, 신뢰성과 안정성, 프라이버시와 보안, 포용성, 투명성, 책임성을 구체적인 실제 사례를 들어 설명했다. 데이터 편향으로 인해 특정 집단이 차별받지 않도록 조정하는 공정성, 테슬라 자율주행 칩의 상호 감시 체계와 같은 이중 제어 장치를 구현하는 신뢰성과 안정성, 신체적·언어적 한계를 극복할 수 있도록 시각 및 청각 피드백을 제공하는 포용성의 필요성을 차례로 강조했다. 또한 인공지능이 결정을 내리는 과정을 추적할 수 있도록 로그 등의 기록을 남기는 투명성과 최종 의사결정의 궁극적인 책임은 항상 인간에게 귀속된다는 책임성 원칙의 중요성을 조명했다.
이러한 윤리적 강령들은 단순한 선언이 아니라, 제품 개발 과정과 사후 테스트 단계에 직접적인 필터이자 체크리스트로 적용되어야 한다는 것이 김 대표의 설명이다. 실제로 마이크로소프트, 구글, 앤트로픽 등의 글로벌 테크 기업들은 시스템 내부의 엄격한 윤리 검증 필터를 통과해야만 신규 서비스를 시장에 출시하고 있으며, 특히 앤트로픽의 경우 자체 설정한 윤리적 기준 마일스톤을 충족하지 못하면 다음 버전의 릴리즈를 차단하는 엄격한 기업 윤리를 고수하고 있다.
최근 일자리와 직무 생산성 변화의 트렌드에 대해 김 대표는 엔비디아의 젠슨 황의 말을 빌려 AI 자체가 인간의 일자리를 직접 빼앗는 것이 아니라, AI를 적극적으로 도구로 활용하는 사람이 그렇지 못한 사람의 일자리를 대체하는 흐름이 나타나고 있다고 진단했다. 특히 단순 지원 업무를 주로 수행하는 주니어 계층이 기술적 위협에 노출되는 반면, 업무 경험과 도메인 지식이 풍부한 시니어 전문가들이 AI 에이전트를 적절히 제어하고 명령을 내려 현장의 고질적인 시스템 문제를 주도적으로 해결해 나가는 변화 양상도 소개했다.
이러한 AI 전환(AX) 시대를 선도하기 위해 개인과 기업은 기존 업무 방식을 잘게 분해하고 인간과 AI가 협업하는 구조적인 업무 설계를 도입해야 한다고 역설했다. 초기에는 인간이 루프 안에서 협력하는 단계(Human-in-the-Loop)를 통해 80%는 AI가 작업을 수행하고 나머지 20%는 인간이 검증하는 방식에서 출발하여, 점차 인간이 한 발 물러서서 AI 에이전트의 구동을 전체적으로 감독하는 단계(Human-on-the-Loop)를 준비해야 한다는 뜻이다. 다만 AI 활용으로 개발 및 작업 생산성은 급격히 증가했으나 결과물의 보안과 적합성을 다각도로 평가하는 인스펙션(검증) 단계가 생산성의 새로운 병목 지점으로 대두되고 있어, 향후 이를 철저히 통제하고 관리하는 전문 엔지니어와 검증 영역의 중요성이 한층 강조될 것이라고 관측했다.
마지막으로 김 대표는 기업이 실질적인 AI 비즈니스 전환을 실천하기 위한 핵심 전제 조건을 제시했다. 조직 내 모든 데이터와 업무 문서가 클라우드나 회사 중앙 서버에 안전하게 집중되는 디지털 전환(DX)이 온전히 구축되어야만 데이터의 수집과 분류가 가능해지며 비로소 진정한 의미의 AX를 적용할 수 있다는 조언이다. 이와 함께 제조업과 같은 산업군에서는 품질 관리와 생산 관리 영역에서 산출되는 실제 가동 데이터를 바탕으로 한 인공지능 학습을 우선 시도하는 것이 비즈니스 효과를 가장 빠르게 낼 수 있는 실무적 접근이라고 전했다.
한편, 경기도경제과학진흥원 테크노밸리혁신단은 판교테크노밸리의 가치를 극대화하기 위해 ‘판교 퇴근길 밋업(Pangyo Evening Meet-Up)’, ‘판판 데이(Pan-Pan Day)’, ‘판교 스타트업 투자교류회 In-Best 판교(Pangyo Startup Investment Exchange ‘In-Best Pangyo)’ 등을 매월 개최하며, 판교 기업·제품·서비스 정보를 국내외 투자자 및 미디어에 알리는 해외 홍보 프로그램을 지원하고 있다.