이 보고서는 사이버 보안에서 악의적인 행위자의 자원으로서 AI의 잠재적 가능성과 현재 활용도를 살펴보고, AI 기반 공격이 초래하는 주요 위험 유형을 식별하고 이에 대한 기업의 대응 방안을 설명합니다. 위협 행위자의 관점에서 볼 때, GenAI는 몇 가지 새로운 문과 가능성을 열어줍니다. 그러나 GenAI 도구와 서비스가 공격을 가속화하거나 탐지 및 차단을 어렵게 만드는 범위는 전반적으로 제한적입니다. 피싱과 사기 영역을 제외하고, GenAI가 대규모의 확신에 찬 악성 컨텐츠 제작을 가능하게함으로써 심각한 새로운 위험을 초래할 수 있지만, GenAI가 사이버 공격의 빈도, 강도, 효과를 크게 증가시키지는 않을 것으로 보입니다. 그럼에도 불구하고 기업은 모든 유형의 공격에 대한 위험을 최소화하는 심층 방어 전략에 계속 투자해야 합니다. 경우에 따라서는 특히 피싱과 사기의 경우 더 많은 양의 공격에 대응할 수 있도록 방어를 강화해야 할 수도 있습니다. 또한 피싱 및 사기 분야에서는 새로운 유형의 방어가 필요할 수도 있습니다. 하지만 일반적으로 위협 주체가 GenAI를 활용할 수 있게 되었다고 해서 기업 보안의 기본이 바뀌는 것은 아닙니다. "GenAI가 기업 위협 환경에 미치는 전반적인 영향은 제한적일 것이지만, 사이버 보안 리더들이 GenAI 시대에 등장한 새로운 유형의 위험을 완화하기 위해 취해야 할 조치가 있습니다."라고 크리스 토치(Chris Tozzi) IDC IEP(IT Executive Programs) 비상근 리서치 어드바이저는 말했습니다.
This IDC Perspective explores the potential and present use of AI as a resource for bad actors in cybersecurity, identifies the main types of risks raised by AI-powered attacks, and explains what enterprises should do in response. From the perspective of threat actors, generative AI (GenAI) opens some new doors and possibilities. But the extent to which GenAI tools and services can speed up attacks or make them harder to detect and block is, overall, limited. Apart from the realm of phishing and fraud, where GenAI does pose serious new risks by making it possible to create convincing types of malicious content at a large scale, GenAI will not likely lead to a major increase in the frequency, intensity, or effectiveness of cyberattacks.Nonetheless, enterprises should continue to invest in defense-in-depth strategies that minimize their risk of falling victim to attacks of all types. In some cases, they may also need to enhance their protections so that they can deal with higher volumes of attacks, particularly in the case of phishing and fraud. Certain new types of defenses may also be necessary, again in the realm of phishing and fraud. But in general, the ability of threat actors to leverage GenAI does not change the fundamentals of enterprise security."Although GenAI's overall impact on the enterprise threat landscape is likely to be limited, there are steps cybersecurity leaders should take to mitigate the new types of risks that have emerged in the age of GenAI," says Chris Tozzi, adjunct research advisor for IDC's IT Executive Programs (IEP).