화요일, 5월 28, 2024
Home자동화칼럼 | 생성 AI 도입이 IT 리더의 관심사인 이유

칼럼 | 생성 AI 도입이 IT 리더의 관심사인 이유


생성적 AI(Generative AI)는 지난 10년 동안 가장 중요한 기술로 떠올랐습니다. 가능성은 무한하다고 여겨집니다. 그러나 이로 인해 엔터프라이즈 데이터 플랫폼은 새로운 과제에 직면하게 되었습니다.

ⓒ 게티이미지뱅크

많은 CIO가 생성 AI에 대해 생각하고 있습니다. 그러나 혁신적인 AI 기술이 인간을 대체하고 심지어 인간을 파괴할 수도 있다는 종말론적 전망은 그들을 밤잠 못 이루게 합니다.

대신 CIO는 직원들에게 “가장 중요해질 수 있는 기술”을 최대한 빠르고 안전하게 갖추는 최선의 방법을 고민하고 있습니다. OpenAI의 ChatGPT와 같은 생성적 AI 챗봇은 실제로 모든 직원이 예산 제안서, 고객 제안서, 광고 CM 노래 및 프레젠테이션 자료까지 단 몇 초 만에 작성하는 데 도움이 되는 최고의 노코드 콘텐츠 생성 기능을 제공합니다. 갖추고 있습니다. C++, 파이썬 등 프로그래밍 언어를 이용해 상황에 따라 코드를 생성하는 기능도 탑재됐다.

적절하게 사용하면 CIO는 운영을 획기적으로 개선하고 마케팅 프로세스를 간소화하며 고객 서비스를 강화하여 조직이 경쟁사보다 뛰어난 성과를 내는 데 도움을 줄 수 있습니다. 그러기 위해서는 직접 시도해 볼 수 있는 기회를 찾는 수밖에 없습니다.

AWS의 기술 이사인 Shaun Nandi는 “모든 사람이 이제 막 시작했기 때문에 CIO는 지금 당황할 필요가 없습니다.”라고 말했습니다. 하지만 그는 “생성 AI를 통합할 계획이 없다면 2~5년 안에 뒤쳐질 수 있다”고 말했다. “귀하의 제품과 솔루션 선택이 더욱 제한될 것이며, 느리고 성과가 낮은 콜센터를 운영하게 될 것입니다.”라고 그는 덧붙였습니다.

생성 AI를 계획하는 대부분의 조직은 OpenAI의 GPT 4.0, Meta의 LLaMA, Google의 LaMDA 또는 Amazon의 Titan 시리즈와 같은 타사 모델을 자체 데이터로 미세 조정하는 것을 선택합니다. 나는 그것을하고있다. 또한 여러 엔터프라이즈 데이터 플랫폼에서는 서비스 접근성과 가치를 높이기 위해 생성 AI를 프런트 엔드에 추가하고 있습니다.

이 두 가지 옵션 모두 처음부터 자체 기반 모델을 구축하는 것보다 생성 AI를 구현하는 훨씬 빠르고 저렴한 방법입니다. 또한 ChatGPT, Google Bard 및 Microsoft Bing과 같이 공개적으로 사용 가능한 생성 AI 챗봇보다 더 나은 정밀도, 개인 정보 보호 및 보안을 제공할 수 있는 잠재력이 있습니다.

Ford Motor Company의 상업 사업부인 Ford Pro의 엔지니어링 이사인 John Verser는 “우리가 접촉하는 모든 공급업체는 생성 AI를 자사 제품에 통합하고 있습니다.”라고 말했습니다. “우리는 포드 프로만의 고유한 기능을 추가하면서 이를 최대한 활용할 수 있는 방법을 고민하고 있습니다.”

물론 기업이 할 수 있는 작업과 관련된 위험 수준은 기업 데이터 플랫폼의 상태에 따라 달라집니다.

Cloudera의 CTO인 Ram Venkatesh는 “데이터 플랫폼은 기반 모델의 기초입니다.”라고 말했습니다. 더 많은 사람들이 데이터를 효과적으로 활용할 수 있도록 지원하는 플랫폼이 조직에 없다면 생성 AI를 사용할 준비가 되어 있지 않은 것입니다. 그는 “간단한 공식이다.

예. 회사의 귀중한 데이터를 다른 사람이 구축한 발전 엔진에 넘길 때 수많은 위험이 발생할 수 있습니다. 많은 CIO가 이러한 위험을 인식하게 되면서 최근 거버넌스가 최우선 순위로 떠올랐습니다.

또한 대부분의 조직에서는 생성적 AI 모델을 역할만 지원하도록 제한하여 잠재적인 피해를 방지합니다. 즉, 대부분의 모델에는 의사결정 권한이 없습니다. 고객과 소통할 수도 없습니다. 적어도 지금은 그렇습니다.

AI가 어떻게 도움을 줄 수 있나요?
기업용 생성 AI의 가장 흥미로운 기능은 비정형 데이터를 업무에 활용하고, 기존 머신러닝 기술로는 파악하기 어려웠던 정보를 빠르게 수집하는 능력이다.

따라서 이 기술은 일반적으로 고객 상호 작용 기록부터 교육 비디오에 이르기까지 대량의 구조화되지 않은 데이터를 이해하는 데 어려움을 겪는 고객 서비스 및 지원 부서에 이상적입니다. 일반적으로 의사 결정 매트릭스가 복잡할수록 개선의 여지가 커집니다.

의료 DaaS(Data as a Service) 플랫폼 제공업체인 Clearsense의 CIO인 Charles Boyce는 이러한 생성 AI 기능이 의료 부문에도 적용될 수 있다고 말했습니다. 그는 많은 장점 중에서 생성 AI가 수동으로 챗봇을 만드는 프로세스를 대체할 수 있다고 지적했습니다.

Boyce는 “우리는 예상치 못한 질문에 답하는 전담팀을 갖고 있었습니다. 모든 질문에 대한 답변을 하나씩 작성했습니다. 대규모 언어 모델은 이러한 작업의 대부분을 제거합니다. “AI로부터 완벽한 답에 가까워질 수 있으니까요.”

보험 분야에도 제너레이티브 AI가 적용되고 있다. NYLIC(New York Life Insurance Co.)의 전략 책임자인 Alex Cook은 회사가 고객 서비스 담당자가 복잡한 문제에 보다 광범위하게 대응할 수 있도록 자체 AI 도구를 개발하고 있다고 말했습니다. 예를 들어, 고객이 회사에서 더 이상 제공하지 않지만 여전히 유효한 35년 된 정책에 대해 문의할 수 있습니다.

Cook은 “이러한 질문은 대답하기가 매우 까다롭습니다.”라고 말했습니다. 그는 “제품이 공급될 당시 태어나지도 않은 담당자들이 많다”고 말했다.

그는 “지금까지는 고객을 기다리게 하거나 나중에 다시 연락하는 경우가 많았다. 이는 고객에게 효율적이지도 않고 좋은 경험도 아닙니다. 그는 “생성 AI 도구를 통해 빠른 답변을 제공하고, 한 번의 대화로 서비스가 완료될 수 있도록 하는 것이 목표”라고 설명했다.

차량 및 전기차 충전기에 대한 텔레매틱스 서비스를 제공하는 회사인 포드 프로(Ford Pro)는 내부 직원이 빠르고 정확하게 문서에 접근할 수 있도록 LLM 기반 챗봇을 구축하고 있습니다.

Nocode의 마지막 역
AI의 확산은 수년 동안 로우 코드 및 노 코드 도구의 주요 주제였습니다. Generative AI는 이 개념을 한 단계 더 발전시켰습니다. 생성적 AI가 지원하는 챗봇을 사용하면 액세스가 허용된 사람은 누구나 이전에 데이터 과학자 및 비즈니스 분석가의 영역으로 제한되었던 통찰력을 얻을 수 있습니다.

ClearSense, Ford Pro 및 NYLIC은 모두 이러한 기능을 개발하고 있습니다. 여기에는 그럴만한 이유가 있습니다.

Cloudera의 Venkatesh는 더 많은 사람들이 흥미로운 데이터로부터 답을 얻을 수 있다는 것만이 아니라고 말했습니다. 더 많은 사람들이 이전보다 더 많은 데이터에 액세스할 수 있는 것도 중요합니다.

“가장 이해하기 어려운 데이터 유형은 비정형 데이터였습니다.”라고 그는 말했습니다. 그러나 이것은 매우 중요합니다. 고객의 경험은 어땠나요? 문제가 해결되었나요? 고객이 몇 번이나 전화해야 했나요? 그리고 우리는 왜 더 일찍 알아채지 못했을까요? “구조화된 데이터의 열과 행이 아닌 채팅 기록에 많은 정보가 숨겨져 있습니다.”

Venkatesh는 “특정 상황에서 대출과 모기지 대출이 상호 교환 가능하다는 모델을 더 이상 가르칠 필요가 없습니다.”라고 말합니다. LLM은 이를 자체적으로 인식합니다. 의미 해석을 추출하는 비용은 아마도 18개월 전보다 100배 저렴할 것입니다. 그는 “이것은 엄청난 변화다”고 덧붙였다.

의견이 분분하다
적어도 현재 대부분의 기업은 생성 AI를 인간의 의사 결정과 상호 작용 속도를 높이는 도구로 보고 있습니다. 생성 AI가 직접 의사 결정을 내리거나 고객과 직접 소통하도록 설계된 애플리케이션을 개발하는 사례는 아직까지 발견되지 않았습니다. 그런 날이 과연 올 것인지에 대해서는 여전히 의견이 분분하다.

Ford의 Mercer와 NYLIC의 Cook은 규제가 완화되고 환각 문제가 크게 개선됨에 따라 애플리케이션이 AI를 적극적으로 수용할 것이라고 믿습니다. 반면 ClearSense의 Boisi는 확신하지 못했습니다.

“인지학적으로 우리는 인간이 어떻게 답을 생각해내는지 실제로 알지 못합니다.”라고 Boyce는 말했습니다. 인간은 항상 어떤 유형의 입력과 결론을 놓칠 가능성이 높습니다. 이것은 직관이라고도 할 수 있습니다. “어떤 이유에서인지 인간은 생성 AI의 반응을 고려하고 ‘무슨 말인지 알지만 지금 여기 환자에게 적합한 이야기는 아닌 것 같습니다.’라고 말할 가능성이 높습니다.”

AWS의 Nandi는 또한 AI에 선택권을 넘겨주는 데 따른 잠재적 비용이 이점보다 훨씬 크다는 데 동의했습니다. 그는 “특히 규제가 엄격한 산업에서는 AI에 대한 적절한 통제 대책이 마련돼야 한다. 그러나 이것을 제어하는 ​​가장 간단한 장치는 무엇입니까? “그 사람은 똑똑한 사람이에요.”

*Mike Feibus는 모바일 생태계와 클라이언트 기술에 초점을 맞춘 시장 전략 및 분석 회사인 FeibusTech의 수석 분석가입니다. ciokr@idg.co.kr



RELATED ARTICLES

LEAVE A REPLY

Please enter your comment!
Please enter your name here

- Advertisment -
Google search engine

Most Popular

Recent Comments