article cover image

[트렌드] Deepseek 등장, AI시장의 변화

작성일 : 이소현 February 20, 2025

Deepseek 출시와 함께 안전하게 AI 도입하는법

연휴 동안 세상을 뒤흔들 만한 소식이 전해졌습니다. OpenAI가 독주하던 AI 시장에 DeepSeek이라는 강력한 경쟁자가 등장했으며, 이제 공개된 지 한 달이 다 되어 갑니다. 그 사이 다른 기업들도 가만히 있지 않았습니다. OpenAI의 DeepResearch, 몇일 전 발표된 일론머스크 Grok-3까지, AI 시장은 빠르게 변화하고 있습니다. 

 

try.gif

 

한 달 사이에 새로운 정보가 쏟아지는 상황에서, DeepSeek은 국내에서 서비스 신규 제공을 중단하기로 발표했습니다. 기존 가입자들에 대한 규제도 추후 발표될 예정이라고 합니다. 도대체 어떤 문제가 있었기에 국가 차원에서 신규 서비스를 중단하고, OpenAI가 사용하던 방식처럼 점진적인 공개 모델로 전환한 것일까요? 이처럼 AI 시장이 급변하는 가운데, 우리는 새로운 시대를 맞이할 준비가 되었을까요? 

이번 글에서는 DeepSeek의 등장이 가져온 변화와 AI의 발전 속에서 기업들이 어떻게 대처해야 하는지 분석해 보겠습니다.

deepseek01.png

이미지 출처: Deepseek

DeepSeek: 중국에서 떠오른 새로운 AI 스타트업

 

DeepSeek은 2023년에 창립된 중국의 인공지능 스타트업으로, 퀀트 헤지펀드인 High-Flyer에서 스핀오프(분사) 형태로 설립되었습니다. 설립된 지 2년도 채 되지 않은 이 회사는 빠르게 두 가지 주요 인공지능 모델을 발표하며 시장의 주목을 받았습니다.

  • DeepSeek-V3 (2024년 말 출시): OpenAI의 GPT-4 계열 모델이나 Anthropic의 Claude 3.5 Sonnet과 유사한 성능을 보이는 것으로 평가됩니다.

     

  • DeepSeek-R1 (2025년 1월 출시): OpenAI의 차세대 모델 ‘o1’과 유사한 역할과 성능을 목표로 개발되었습니다.

     

왜 이렇게 이슈가 될까?

그렇다면 DeepSeek이 이렇게 큰 화제가 된 이유는 무엇일까요? 주요 이유는 다음 세 가지로 정리할 수 있습니다.

 

1. 국적과 자본의 문제(China)
대규모 AI 모델을 학습하려면 막대한 자본과 고성능 GPU가 필요하기 때문에, 미국 기업들이 주도권을 쥐는 것이 일반적이었습니다. 

하지만 DeepSeek은 미국의 칩 수출 제한에도 불구하고 오픈소스를 적극 활용해 기존 모델 대비 훨씬 적은 비용으로 대형 모델을 구현했습니다. 더불어, 거대 테크 기업이 아닌 헤지펀드 출신의 투자 기업이 배후에 있다는 점도 이목을 끌고 있습니다.

 

2. 오픈소스✖️ Open-Weight 

DeepSeek은 회사명과 다르게 Closed인 OpenAI와 상반되게 LLM의 트레이닝 데이터는 공개하지 않지만, 모델 가중치는 공개하는 방식을 사용합니다. 이는 AI 연구 커뮤니티에서는 혁신적인 방식으로 평가받고 있으며, 빠른 시간 내 모델을 학습하는 데 큰 도움이 되었습니다. 학습방식은 하단 이미지 참고하시면 이해가 빠르실 거에요(재미로 봐주세요)

 

deepseek.png

3. 기술적 혁신: 양자화(Quantization)와 멀티 토큰 시스템
DeepSeek은 기존 AI 모델보다 낮은 정밀도(8비트)로도 충분한 성능을 낼 수 있음을 실험적으로 입증하며, 메모리 사용량을 75% 감소시키는 데 성공했습니다. 또한, 전통적인 AI 모델이 단어를 하나씩 처리하는 방식과 달리, DeepSeek은 문장 전체를 통으로 처리하는 멀티 토큰 방식을 도입해 속도를 2배가량 높였습니다.
 

이처럼 DeepSeek은 AI 개발에서 “어떻게 하면 더 적은 비용과 자원으로 목표 성능을 낼 수 있을까?”라는 근본적인 질문에 대한 답을 제시하며 업계에 신선한 충격을 주고 있습니다. 경쟁이 치열해질수록 기술은 더욱 빠르게 발전하고, 이것이 바로 우리에게 긍정적인 영향을 준다는 점에서, 앞으로의 AI 시장이 어떻게 재편될지 관심이 모아집니다.

 


기업용 AI 활용법

 

기업들이 LLM을 활용하는 방법

최근 기업들은 AI 기반 대형 언어 모델(LLM, Large Language Model)을 다양한 방식으로 활용하며 비즈니스 효율성을 극대화하고 있습니다. 기업 내부의 지식 관리 시스템(KM, Knowledge Management) 구축, 고객 서비스 자동화, AI 기반 데이터 분석 및 비용 최적화 등이 대표적인 사례입니다.
 

클라우드 환경에서 LLM을 활용하면 온프레미스 대비 운영 비용이 30~50% 절감된다는 연구 결과도 있습니다. 이는 클라우드 서비스가 AI 모델을 확장 가능하게 하고, 유지보수 부담을 줄이며, 보안 환경을 강화하기 때문입니다.
 

DeepSeek 클라우드에서는 어떻게 쓸까요? 

DeepSeek과 같은 AI 모델은 온프레미스보다 클라우드 환경에서 더 효과적으로 배포 및 운영될 수 있습니다.
 첫째, DeepSeek은 기존 모델 대비 적은 GPU 자원으로 높은 성능을 낼 수 있는 양자화(Quantization) 기술을 활용하고 있어, 클라우드 기반에서도 비용 효율적인 AI 운영이 가능합니다.
 

 둘째, DeepSeek의 멀티 토큰 처리 방식은 AI API 요청 속도를 약 2배 증가시키며, 일반적인 AI 모델 대비 데이터 처리량을 40% 이상 향상시킨다고 발표되었습니다. 이는 기업들이 AI 서비스를 실시간으로 활용하는 데 큰 도움이 됩니다.
 

 셋째, 일부 기업은 AI 모델을 사내에서 직접 운영하는 방식(On-prem AI)을 고려하지만, 클라우드 기반 AI 서비스의 보안이 더욱 강력한 경우가 많습니다. 특히 AWS Bedrock, Azure OpenAI Service와 같은 클라우드 AI 플랫폼은 기업 맞춤형 보안 설정과 데이터 암호화 기능을 제공하며, AI 사용 중 발생하는 규제 리스크를 줄일 수 있습니다.
 

✨MSP로서 NDS의 역할

클라우드 MSP(Managed Service Provider)는 단순히 인프라를 제공하는 것을 넘어, AI 도입부터 운영까지의 전체 프로세스를 지원하는 중요한 역할을 합니다.

NDS와 같은 MSP는 AI 도입을 원하는 기업을 위해 다음과 같은 지원을 제공합니다:

  • LLM(AI 모델) 도입 컨설팅: DeepSeek과 같은 모델이 기업에 적합한지 분석하고, 최적의 운영 방안을 제시
  • 보안 및 거버넌스 관리: AWS Bedrock과 같은 클라우드 AI 서비스를 활용해 기업의 보안 요건을 충족
  • 비용 최적화: AI API 사용 비용 절감 방안 제공 및 모니터링 서비스 제공

최근 연구에 따르면, MSP를 통해 AI를 도입한 기업은 자체적으로 AI를 구축한 기업보다 평균 20~30%의 비용 절감 효과를 보았다고 합니다.
 

6주.png

NDS는 AWS의 Advanced 파트너로서, 6주 안에 안전한 AI 환경을 구축하고 운영까지 지원하는 원스톱 솔루션을 제공하고 있습니다. 이를 통해 기업들은 보안과 비용을 동시에 고려하며 AI를 도입할 수 있습니다.

 


윤리적 AI 및 Data Privacy 문제

 

DeepSeek과 같은 AI 모델이 강력한 기능을 제공하는 만큼, 윤리적 문제와 데이터 프라이버시 이슈도 함께 고려해야 합니다. 특히, 기업들은 GDPR 및 CCPA와 같은 프라이버시 규정을 준수해야 하며, AI 모델이 사용자 데이터를 어떻게 활용하는지에 대한 명확한 가이드라인이 필요합니다.

DeepSeek의 경우, 데이터가 중국 내 서버에 저장된다는 점이 일부 국가에서 보안 리스크로 지적되었으며, 이에 따라 몇몇 기관에서는 해당 AI 애플리케이션 사용을 금지하기도 했습니다. AI 도입을 고려하는 기업들은 이러한 윤리적 문제를 충분히 검토한 후 도입 결정을 내려야 합니다.

 


결론

 

최근 샘 알트만의 한국 방문 이후, 국내 정부 기관과 기업들은 보안상의 이유로 DeepSeek 사용을 제한하는 움직임을 보이고 있습니다. 그러나 AI의 발전 속도가 빨라지는 만큼, 기업들은 새로운 LLM 모델을 적극적으로 검토해야 합니다.

AWS, Microsoft, 등 주요 빅테크 기업들은 AI 모델을 안전하게 활용할 수 있도록 지원하고 있으며, AWS Bedrock을 활용하면 보안을 강화하면서도 DeepSeek과 같은 최신 AI 모델을 실험해볼 수 있습니다.

NDS는 AWS Advanced 파트너로서 안전한 AI 구축을 위한 원스톱 솔루션을 제공하고 있습니다. AI 도입을 고려하고 있다면, 지금 바로 NDS와 함께 시작해 보세요!

 

 

 

 

 

참고 자료

McKinsey & Company, "The State of AI in 2024"

Gartner, "AI and Cloud: The Future of Scalable AI Solutions, 2023

DeepSeek 공식 블로그, "How We Built DeepSeek-R1, 2025"

IDC, "The Role of MSPs in AI Transformation, 2024"

AWS, "AWS Bedrock Security Overview, 2024"

MIT Technology Review, "AI Model Optimization Techniques, 2024"

Forrester, "AI Adoption and Cost Management, 2024"

presentation