ServiceTitan, Microsoft와 OpenAI의 LLM을 위험 요소로 지목

주로 소규모 비즈니스, 예를 들어 건설 계약자, HVAC 전문가, 조경사 등을 위한 클라우드 기반 소프트웨어를 제공하는 회사인 ServiceTitan사가 작성한 IPO문서에 대한 기사가 있어 소개해 드립니다.

ServiceTitan은 IPO 문서에서 Microsoft와 OpenAI의 대형 언어 모델(LLM)을 위험 요소로 지목했습니다. LLM의 부정확한 정보 생성, 차별적 행동, 저작권 침해 가능성, 데이터 보안 문제 등을 경고하며, AI 전문가 고용의 어려움과 비용 문제도 언급했습니다. AI 사용이 사회적, 윤리적 문제를 초래할 수 있으며, 미래 규제가 비용을 초래할 수 있다고 경고했습니다.

 

 

 

 

ServiceTitan, Microsoft와 OpenAI의 LLM을 위험 요소로 지목

 

일반적인 위험 요소

모든 IPO S-1 전망서에는 주식이 좋은 투자 대상이 아닐 수 있는 다양한 위험 요소를 나열하는 섹션이 포함되어 있습니다. 많은 경우, 이는 재무 성과나 전쟁 및 자연재해에 대한 경고와 같은 일반적인 경고입니다. 그러나 일부는 회사에 더 구체적입니다.

 

ServiceTitan의 새로운 경고

월요일에 SEC에 공개 IPO 문서를 제출한 클라우드 서비스 스타트업 ServiceTitan의 경우, 비즈니스를 성장시키는 데 도움이 되는 대형 언어 모델(LLM)이 손상을 초래할 수 있다는 새로운 경고가 탄생하는 것을 목격할 수 있습니다.

 

AI 사용의 위험 요소

ServiceTitan은 AI, 특히 생성 AI의 사용이 비즈니스에 부정적인 영향을 미칠 수 있다는 1,150단어의 위험 요소를 제시했습니다. LLM의 환각적 행동이 "부정확한" 정보를 생성하고 "차별적" 행동을 할 수 있으며, LLM이 타인의 저작권이나 지적 재산권을 침해할 수 있다고 경고했습니다. 또한, LLM을 사용하는 것은 더 많은 데이터를 잠재적인 해킹과 손상에 노출시키는 것을 의미합니다. 반대로 충분한 데이터를 확보하지 못하면 AI 제품을 계속 제공하거나 새로운 제품을 개발할 수 없을 수도 있습니다. 게다가, 회사는 직원이나 계약자가 고객의 개인 데이터를 제3자 시스템과 실수로 공유하여 보안 침해를 초래하거나 해당 데이터를 모델 훈련에 사용할 수 있다고 경고합니다.

 

사회적 및 윤리적 문제

ServiceTitan은 AI 사용이 언젠가 사회적 및 윤리적 문제에 저촉될 수 있으며, 미래의 규제가 비용을 초래할 수 있다고 경고합니다.

 

AI 전문가 고용 문제

ServiceTitan은 또한 제품에 필요한 AI 전문가를 고용할 수 없을 것을 우려하며, 고용할 수 있더라도 그 인재는 비쌀 것이라고 경고합니다. ServiceTitan은 AI 제품이 제어할 수 없는 타사 서비스에 의존한다고 경고하며, Microsoft와 OpenAI를 구체적으로 지목합니다. 따라서 이들이 사용 불가능하거나 문제가 발생하면 그것도 위험 요소가 됩니다.

 

산업의 중심에서 운영

이러한 경고는 ServiceTitan이 GenAI, 특히 LLM 기반 AI 에이전트가 지배할 것으로 예상되는 산업의 중심에서 운영되기 때문에 흥미롭습니다. ServiceTitan은 주로 소규모 비즈니스, 예를 들어 건설 계약자, HVAC 전문가, 조경사 등을 위한 소프트웨어를 제공합니다. 이 소프트웨어는 마케팅, 고객 관계 관리, 고객 지원 및 회계와 같은 기능을 수행합니다. (ServiceTitan은 추가 논평을 거부했습니다.)

 

AI 에이전트의 진격

AI 에이전트는 현재 모든 판매, 마케팅 및 CRM 분야로 빠르게 진격하고 있으며, CRM 시장의 왕인 Salesforce CEO Marc Benioff는 그의 회사가 단독으로 1년 안에 Salesforce 고객 회사에서 10억 개의 AI 에이전트를 가질 수 있다고 TechCrunch에 말했습니다.

 

Titan Intelligence

ServiceTitan은 적어도 2023년부터 Titan Intelligence라는 AI 기반 서비스를 제공해 왔습니다. 10월에는 판매, 고객 서비스 및 콜 센터를 위한 AI 에이전트 제품군도 출시했습니다.

 

LLM의 설계 목적

그러나 LLM은 단어, 이미지 및 데이터를 연구하고 자체 버전을 생성하도록 설계되었습니다. 즉, LLM은 무언가를 만들어내도록 설계되었습니다. OpenAI의 과학자들은 인간의 추론 능력을 모방하는 일반 지능을 향해 바쁘게 달려가고 있으며, 이는 더 창의적인 AI를 만들기 위해 노력하고 있음을 의미합니다.

 

비즈니스 사용을 위한 신뢰성 문제

물론, 비즈니스 사용을 위한 LLM의 신뢰성은 시간이 지남에 따라 더 많은 회사가 신뢰성, 즉 창의성이 아닌 신뢰성이 중요한 에이전트에 특화됨에 따라 해결될 문제입니다. 그러나 오늘날 AI 봇을 판매하는 사람들이 법적 문구에서 조용히 말하는 부분을 실제로 언급하고 있다는 점은 주목할 만합니다. 초기 단계에서 AI 채택은 해결하는 것만큼 많은 문제를 일으킬 수 있습니다.

 

 

 

이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.