설명 가능한 AI(Explainable AI, X AI) 시장은 예측 기간(2024-2031년)에 CAGR 20.9%로 성장할 것으로 예측됩니다. 설명 가능한 AI 시장은 AI의 의사결정에 대한 투명성에 대한 규제 요건, 다양한 산업에서 AI의 광범위한 채택, 기술 진보, 일반 시민들의 의식 증가로 인해 상당한 성장을 이루고 있습니다. 윤리적인 AI 가이드라인은 공정성, 책임, 투명성을 강조하며 설명 가능한 AI 기술을 사용해야 합니다. SHAP 및 LIME과 같은 기술 진보는 보다 해석하기 쉬운 모델의 개발을 촉진하고, 설명 가능한 AI 솔루션의 기존 시스템과의 통합은 조직에 대한 도입과 구현을 용이하게 합니다.
시장 역학
각 업계의 AI 도입 증가
통신 및 네트워크 최적화에서 AI의 고용률은 투명하고 해석 가능한 솔루션에 대한 섹터별 수요로 설명 가능한 AI 채택을 촉진하고 있습니다. 2024년 2월 Ericsson은 네트워크 최적화에서 AI 채택을 가속화하기 위해 인지 소프트웨어에서 설명 가능한 AI를 발표했습니다. 이 새로운 기능은 AI 기반 솔루션에서 가치를 창출하는 데 걸리는 시간을 단축하고 RAN 최적화의 효율성을 향상시킵니다. 이 솔루션은 다양한 세계 데이터 세트에서 훈련된 AI 모델에 의존하며 신속한 배포를 위해 로컬에서 재교육할 수 있습니다.
생성형 AI 및 대규모 언어 모델과 같은 고급 AI 기술을 활용하는 프로세스는 다양한 언어의 분류 정확도를 크게 향상시킵니다. 이러한 기술을 활용하여 2023년 9월, Temenos는 은행 업무에서 안전한 생성형 AI 솔루션을 발표하여 은행이 고객의 거래를 자동으로 분류할 수 있도록 했습니다. 이 솔루션은 개인화된 통찰력을 제공하고 고객 충성도를 높이고 디지털 뱅킹 경험을 향상시킵니다. 이 솔루션을 사용하면 생성형 AI와 대규모 언어 모델을 사용하여 다양한 양식을 이해할 수 있으므로 은행은 다양한 언어로 거래를 정밀하게 분류하고 라벨링할 수 있습니다.
시장 세분화
클라우드 기반이 최대 부문이 될 전망
클라우드 기반 설명 가능한 AI 솔루션은 높은 확장성과 비용 효율성으로 높은 채택율을 자랑합니다. 따라서 주요 기업은 시장에서 높은 점유율을 얻기 위해 클라우드 기반 솔루션을 제공하는 데 주력하고 있습니다. 예를 들어, 2024년 4월, Neo4j는 Google Cloud와 제휴하여 GenAI 용도을 위한 새로운 GraphRAG 기능을 도입하고, 개발자가 비정형 데이터에서 지식 그래프를 생성하고, 몇 초 내에 실시간 데이터를 분석하며, Google Cloud에서 지식 그래프를 활용한 GenAI 용도을 구축할 수 있도록 했습니다.
소매 및 E-Commerce 분야가 큰 시장 점유율을 차지
소매 및 전자상거래 분야에서 설명 가능한 AI는 투명한 AI 주도 의사결정, 규제 준수 촉진, 소비자 신뢰 창출에 필수적입니다. 2023년 1월 Google Cloud는 Vertex AI Vision을 사용한 선반 체크 솔루션, 상품의 시각적 특징에 따라 전자상거래 페이지에서 상품 주문 및 추천을 최적화하는 추천 AI 솔루션의 머신러닝 기능 등, 소매업체를 위한 새로운 AI 도구를 발표했습니다. 이러한 발전은 이 시장 부문의 성장을 더욱 강화하고 있습니다.
세계의 설명 가능한 AI 시장은 북미(미국, 캐나다), 유럽(영국, 이탈리아, 스페인, 독일, 프랑스 및 기타 유럽), 아시아태평양(인도, 중국, 일본, 한국, 기타 아시아태평양), 세계 기타 지역(중동, 아프리카, 남미)을 포함한 지역을 기반으로 더 세분화됩니다.
아시아태평양의 건강 관리 기록의 급속한 디지털화
헬스케어 기록의 급속한 디지털화는 투명성을 높이기 위해 AI 기술의 사용을 요구하고 있으며, 이 지역 전체에서 설명 가능한 AI의 채택을 촉진하고 있습니다. National Center for Biotechnology Information에 따르면 2023년 3월 인도 정부는 디지털 공공 인프라를 강화하기 위해 Unified Payments Interface(UPI)를 성공적으로 도입했습니다. 12억 무선 연결, 6억 스마트폰 사용자, 8억 인터넷 연결로 디지털화가 원격지로 확장되고 있습니다. Aadhaar의 보급률은 90.0%에 달했고, JAM과 UPI와의 통합으로 정부의 보조금 누출이 최소화되고 인도의 디지털 기술에 대한 숙련도가 입증되었습니다.
북미가 주요 시장 점유율을 차지
AI의 연구개발이 활발하다는 것, 여러 지역의 산업에서 AI가 많이 채택되고 있는 것, 정부의 정책이 호의적인 것이 이 지역의 설명 가능한 AI 시장을 견인하는 주요 요인입니다. 연방 정부의 투자 증가는 기술 혁신의 원동력이 되고, 이 지역 전체에서 AI 연구 개발에 있어서 더 높은 탐구와 진보를 촉진하고 있습니다. 2024년 1월, 국가 안보 위원회는 2026 회계 연도까지 비국방 AI 연구 개발을 위해 320억 달러라는 연방 정부의 지출 목표를 제안했습니다. 이 목표를 달성하기 위해서는 국방 이외의 AI 연구개발에 대한 연방정부의 자금을 80억 달러로 증액하고, 향후 3회계연도는 매년 배증을 계속해야 합니다. 이 자금 증액은 이 분야의 다양한 이해관계자를 끌어들여 최첨단 모델의 테스트와 평가를 지원함으로써 혁신과 과학적 진보를 촉진할 것으로 보입니다.
Explainable AI Market Size, Share & Trends Analysis Report by Component (Solutions, and Services), by Methods (Model-Agnostic Methods, and Model-Specific Methods), by Deployment Mode (Cloud, and On-Premises), and by End-User (Healthcare, BFSI, Aerospace & Defense, Retail and E-commerce, Public Sector & Utilities, IT & Telecommunication, Automotive, and Others) Forecast Period (2024-2031)
Explainable AI market is anticipated to grow at a CAGR of 20.9% during the forecast period (2024-2031). The Explainable AI (XAI) market is experiencing substantial growth driven by the regulatory requirements for transparency in AI decision-making, the widespread adoption of AI in different industries, technological advancements, and increasing public awareness. Ethical AI guidelines emphasize fairness, accountability, and transparency, which necessitate the use of explainable AI techniques. Technological advancements like SHAP and LIME are driving the development of more interpretable models, while the integration of XAI solutions with existing systems facilitates easier adoption and implementation for organizations.
Market Dynamics
Increasing Adoption of AI Across Industries
The high AI adoption in telecommunications and network optimization driving XAI adoption owing to sector-specific demand for transparent, interpretable solutions. In February 2024, Ericsson launched Explainable AI in Cognitive Software to accelerate AI adoption in network optimization. The new capabilities enable a shorter time to value from AI-based solutions, improving efficiency in RAN optimization. The solutions rely on AI models trained on diverse global data sets and can be retrained locally for fast deployment.
The process of utilizing advanced AI technologies, such as generative AI and large language models, significantly enhances classification accuracy across various languages. Take leverage of these technologies, in September 2023, Temenos launched a secure Generative AI solution in banking, enabling banks to automatically classify customers' transactions. This solution provides personalized insights, enhances customer loyalty, and improves digital banking experiences. The solution uses Generative AI and large language models to understand various modalities, allowing banks to classify and label transactions with high accuracy in different languages.
Market Segmentation
Cloud-based is Projected to Emerge as the Largest Segment
The high adoption of cloud-based XAI solutions due to their high scalability and cost-effectiveness is a key contributor to the high share of this market segment. Therefore, key players are focusing on offering cloud-based solutions to gain a high share of the global market. For instance, in April 2024, Neo4j partnered with Google Cloud to introduce new GraphRAG capabilities for GenAI applications, enabling developers to create knowledge graphs from unstructured data, analyze real-time data in seconds, and build GenAI applications powered by knowledge graphs on Google Cloud.
Retail and E-commerce Sub-segment to Hold a Considerable Market Share
In the retail & E-commerce sector, XAI is essential for ensuring transparent AI-driven decisions, promoting regulatory compliance, and creating consumer trust. In January 2023, Google Cloud introduced new AI tools for retailers, including a shelf-checking solution using Vertex AI Vision and machine learning capabilities for its Recommendations AI solution, which optimizes product ordering and recommendations on e-commerce pages based on product visual features. Such developments are further aiding the growth of this market segment.
The global explainable AI market is further segmented based on geography including North America (the US, and Canada), Europe (UK, Italy, Spain, Germany, France, and the Rest of Europe), Asia-Pacific (India, China, Japan, South Korea, and Rest of Asia-Pacific), and the Rest of the World (the Middle East & Africa, and Latin America).
Rapid Digitalization of Healthcare Records in Asia-Pacific Region
The rapid digitization of healthcare records is demanding the use of AI technologies to increase transparency has driven the adoption of XAI across the region. According to the National Center for Biotechnology Information, in March 2023, the Indian government successfully implemented the Unified Payments Interface (UPI) to enhance its digital public infrastructure. With 1.2 billion wireless connections, 600 million smartphone users, and 800 million internet connections, digitization has reached remote areas. Aadhaar's 90.0% penetration and integration with JAM and UPI have minimized government subsidy leakages, demonstrating India's proficiency in digital technology.
North America Holds Major Market Share
The high R&D for AI, high adoption of AI across several regional industries, and favorable government policies are key factors driving the regional XAI market. Increased federal investment serves as a driving force for innovation, enhancing higher exploration and advancements in AI R&D across the region. In January 2024, the National Security Commission proposed a federal spending target of $32.0 billion for non-defense AI R&D by Fiscal Year 2026, comparable to the current federal investment in biomedical research. To achieve this objective, federal funding for non-defense AI R&D should be increased to $8.0 billion and continue to double annually for the next three fiscal years. This increased funding would encourage innovation and scientific advancements by involving various stakeholders in the field and supporting the testing and evaluation of cutting-edge models.
The major companies serving the explainable AI market include Accenture PLC, IBM Corp., Google LLC, Microsoft Corp., and SAS Institute Inc. The market players are increasingly focusing on business expansion and product development by applying strategies such as collaborations, mergers and acquisitions to stay competitive in the market. For instance, in March 2024, Apple acquired DarwinAI, an AI visual quality assurance startup that offers a patented Explainable AI platform for improving product quality and increasing production efficiency.