항공기가 공항에 착륙했을 때 여객터미널 근처가 아니라 활주로 한복판에 내릴 때가 있다. 이때 승객들은 버스를 다시 타고 터미널로 이동해야 한다. 이런 상황은 사실 공항 시스템의 최적화가 안 돼 일어난 사고나 다름없다. 다수 항공편의 운행 및 지연과 정비 시간 등 많은 변수를 조합해 수학적으로 최적화하는 작업을 ‘공항 게이트 할당 문제’라고 한다. 세계에서 여객 수가 가장 많은 공항 중 하나인 미국 하츠필드잭슨애틀랜타국제공항이 이런 연구를 많이 하고 있다.

국내에선 이경식 서울대 산업공학과 교수가 인천공항 제2터미널 최적화 연구를 최근 마쳤다. 이 교수는 15일 한국경제신문과의 인터뷰에서 “인공지능(AI)의 본질도 결국 최적화”라며 “머신러닝(기계학습)은 특히 수학적 최적화 기법으로 이뤄져 있다”고 강조했다. 산업공학계 국내 최고 전문가로 꼽히는 그는 반도체, 디스플레이, 에너지, 자동차 등 다양한 산업에서 필수인 최적화 기술을 선도해 왔다.

그는 “인공신경망을 학습시킬 때 손실함수를 최소화하는 파라미터(결정변수)를 찾아야 하는데 이는 대규모 비선형 최적화 문제”라고 설명했다. 예를 들면 다양한 산업에서 쓰는 머신러닝 기법인 서포트 벡터 머신(SVM)의 경우 마진을 최대화하는 초평면을 찾는 최적화 문제다. 수학적 개념인 초평면은 전체 공간보다 차원이 하나 낮은 공간을 말한다. 2차원 평면 공간에선 직선이 초평면, 3차원 입체 공간에선 일반 평면이 초평면이다.

철강, 제지 등 큰 부피의 롤(roll)이 사용되는 산업에서도 최적화가 필수다. 롤 또는 판을 다양한 규격으로 잘게 잘라내 최종적으로 고객에게 공급하는 제조 기업 입장에서 최적화는 가장 중요한 사안이다. 이 교수는 “크고 작은 롤을 어떻게 조합해 잘라내는지에 따라 쓰지 못하는 부분(트림 로스· trim loss)이 생기는데, 1%의 트림 로스만 나타나도 수백억원가량 손실이 발생할 수 있다”고 설명했다. 트림 로스는 김밥을 토막 내 자를 때 생기는 양 끝단같이 모호한 부분을 말한다.

이 교수는 도심항공교통(UAM) 등 미래 우주·항공산업에서 최적화 기법이 핵심 역할을 할 것이라고 내다봤다. 이 교수는 “전 세계 우주산업 패권을 쥔 스페이스X의 재사용 발사체(로켓)도 추진력 제어, 항법 제어 등 최적화의 산물”이라며 “다수의 UAM을 동시에 효율적으로 운영하기 위한 최적화 기술 연구가 활발하다”고 말했다. 아마존, 구글 등 해외 빅테크 기업들도 최적화팀을 따로 두고 경영 전반에서 활용하고 있다. 아마존은 특히 물류센터 관리에서 최적화 기법에 전적으로 의존한다.

대한산업공학회 부회장인 그는 LG CNS와 올 6월부터 ‘최적화 그랜드 챌린지 2024’를 공동 주최하고 있다. 행사의 주제는 배달 경로 최적화다. 앱으로 여러 주문을 할당받은 기사가 배송 시간을 최소화할 수 있는 운행 경로 알고리즘을 제시하는 대회다. 지난 7일 마감한 예선에서 LG디스플레이, GS칼텍스, 카카오 등 직장인 8개 팀과 KAIST, 서울대 등 대학생 32개 팀 등 총 40개 팀이 통과했다. 이들은 12일부터 시작된 본선과 9~10월 결선에서 최종 1위를 놓고 최적화 실력을 겨룬다.

이 교수는 “단순한 경진대회를 넘어 기업이 일선 현장에서 마주치는 문제를 해결하는 오픈 소싱 플랫폼”이라며 “이론과 실제의 간극을 줄이면서 좀 더 실용적이고 영향력이 큰 연구를 하는 데 도움을 줄 것으로 기대한다”고 말했다.

이해성 기자 ihs@hankyung.com