article cover image

[행사]AWS Summit Seoul 2024 Keynotes

작성일 : NDS May 20, 2024

GenAI 기술의 혁신

도전 없는 성공은 안주하는 경향이 있다

 

 

안녕하세요 여러분! AWS Summit Seoul도 어느덧 10주년을 맞이했는데요! 

AWS Summit 2024 행사에서는 새로운 아이디어와 혁신적인 기술을 탐구하며 많은 인사이트를 얻을 수 있었는데요.

오늘은 그 중에서도 이틀간 진행된 키노트 내용을 정리해드리겠습니다!

KakaoTalk_20240520_145207662_02.jpg

 

 

 

Day 1: 생성형 AI와 지속 가능한 경영

 

 

 

KakaoTalk_20240522_111613496_01.jpg

 

 

5월 16일, 서울 코엑스에서 열린 AWS Summit Seoul 2024의 첫 키노트는 함기호 AWS 코리아 대표의 발표로 시작되었습니다. 함기호 대표는 국내에서 저전력 프로세서 도입이 증가하고 있으며, AWS가 지난 10년간 다양한 성과를 거두었음을 강조했습니다. 앞으로 AWS는 클라우드 환경에서 비용 절감과 지속 가능성에 중점을 둘 계획이며, 엔씨소프트, LG AI 연구원, 업스테이지, KT, SK텔레콤, 센드버드, 클레온 등과 협력하여 AI 혁신을 이끌 것이라고 밝혔습니다.
 

함 대표에 이어서 AWS Professional Service 및 GenAI 혁신 센터를 총괄하는 프란체스카 바스케즈 부사장이 이어받았는데요. 

 

 

KakaoTalk_20240520_145207662_06.jpg

 

혁신을 주도하는 AWS의 GenAI 기술

 

AWS Summit Seoul 2024에서 프란체스카 바스케즈 부사장은 AWS가 다양한 산업 분야에서 혁신을 주도하고 있으며, 고객들에게 최고 수준의 기술을 쉽게 제공해왔다고 강조했습니다. 

AWS는 맞춤형 생성형 AI를 쉽게 구축하고 확장할 수 있는 생성형 AI 스택을 소개했습니다. 이 스택에는 훈련되는 FM 및 LLM 모델, IT 인프라, 애플리케이션 등록 등이 포함되어 있습니다. 또한, AWS는 인프라 투자와 엔비디아와의 협력 확대를 통해 AI 기술을 더욱 강화하고 있습니다.

바스케즈 부사장은 "모든 것을 지배할 수 있는 하나의 모델은 없다"고 강조하며, Amazon Bedrock이 다양한 모델을 제공해 고객이 여러 모델을 선택할 수 있도록 한다고 설명했습니다. 또한, "Guardrail for Bedrock" 서비스를 통해 기업이 보안과 신뢰성을 유지하며 자체 데이터를 활용해 비즈니스 애플리케이션을 안전하게 구축할 수 있다고 했습니다.

 

Amazon Q

 

2주 전에 정식 출시된 생성형 AI 비서 "Amazon Q"는 기획, 디자인, 코드 구현, 테스트, 배포, 운영 등 모든 단계에서 생산성을 높이는 역할을 한다고 소개되었습니다. 개발자용 AWS 서비스 챗봇 및 코딩 도구인 Amazon Q Developer는 이러한 모든 개발 단계에서 생산성을 향상 시킬 수 있다고 설명하며, Amazon Q와 Amazon Bedrock을 사용하여 생성형 AI 애플리케이션을 개발하는 데모를 직접 시연했습니다.

특히 애플리케이션의 작동 방식을 이해하고 싶은 경우, 기존 애플리케이션에서 업데이트가 필요한 부분을 알고 싶은 경우, 콘솔에서 예기치 않은 오류가 발생했을 때, 기존 데이터를 기반으로 RAG를 구현하고 싶은 경우 등 개발자들이 직면하는 다양한 상황에서 아마존 Q와 아마존 베드록을 어떻게 활용할 수 있는지를 구체적으로 보여주었습니다. 이를 통해 AWS를 사용하여 복잡한 생성형 AI 애플리케이션을 빠르고 효율적이며 안전하게 구축할 수 있음을 강조했습니다.

그 외  GenAI 활용 사례로 화이자, KT, 넷플릭스, 모더나, Lonely Planet 등이 소개되었습니다. 이들 기업은 생성형 AI를 통해 혁신을 이루고 있으며, 제약사는 대규모 언어 모델을 이용해 신약 개발 속도를 크게 높이고 있습니다. 이러한 혁신적 아이디어들이 현실 가능한 솔루션으로 발전하고 있음을 보여주었습니다.는 대규모 언어모델(LLM)을 이용하여 기존보다 4-10배 빠르게 처리할 수 있습니다. 이러한 혁신적 아이디어는 현실 가능한 솔루션으로 발전시키고 있는 것을 알 수 있었네요.

 

 

 

 

Day 2: 검소한 아키텍처(Frugal Architecture)와 플랫폼 엔지니어링 + GenAI

 

 

KakaoTalk_20240520_145136436_22.jpg

 

 

둘째 날 키노트는 윤석찬 AWS 수석 테크 에반젤리스트의 주관으로 진행되었으며, '검소한 아키텍처(Frugal Architecture) '플랫폼 엔지니어링'(Platform Engineering), 생성형 AI(GenAI) 중점을 두었습니다. 

윤석찬 테크 에반젤리스트의 인트로 이후 Werner Vogels AWS CTO의 오프닝이 시작되었는데요. 그는 '비용' 은 선택이 아닌, 아키텍처를 수립 할 시  필수적인 요소로 우선순위로 삼아야 한다며 <검소한 아키텍처의 7가지 법칙>을 소개했습니다. 

 

  1. 비용을 (비기능적) 요구사항으로 설정하라

  2. 비즈니스에 비용을 맞추어라

  3. 아키텍처는 타협(Trade-off)의 연속이다

  4. 측정되지 않은 시스템은 알 수 없는 비용을 만든다

  5. 비용 인식 아키텍처를 통해 비용 통제를 구현하라

  6. 비용 최적화 과정은 누적되어야 한다

  7. 도전 없는 성공은 안주하는 경향이 있다

 

 

KakaoTalk_20240520_145136436_21.jpg

 

 

윤석찬 에반젤리스트는 AWS 원칙 중 몇 가지를 자세히 설명했습니다.

아키텍처 설계 원칙 중 ‘비즈니스에 비용을 맞추라’는 원칙을 강조했습니다. 그는 비즈니스 변화에 맞춰 아키텍처를 지속적으로 변경하면 비용을 절감할 수 있으며, AWS 비용 최적화 허브를 사용하면 쉽게 비용 절감 방법을 찾을 수 있다고 설명했습니다.

다음으로, 지표 측정 원칙 중 ‘비용 인식 아키텍처를 통해 비용을 통제하라’는 원칙을 소개했습니다. 아마존닷컴은 서비스 필요성에 따라 티어를 나누어 비용을 통제하는데, 이를 위해 클라우드 인프라 리소스를 서비스 단위로 묶어야 한다고 강조했습니다. 아마존 클라우드워치의 애플리케이션 시그널 기능을 사용하면 애플리케이션 중심으로 리소스를 묶어 모니터링할 수 있다고 했습니다.

마지막으로, ‘성공에 안주하지 말라’는 원칙을 설명하며, 지속 가능성이 뛰어난 현대 프로그래밍 언어 러스트와 최근 출시된 러스트용 AWS SDK를 소개했습니다.

 

KakaoTalk_20240523_165823410.jpg

 

2. Platform Engineering

플랫폼 엔지니어링은 DevOps와 SRE를 넘어 사내 개발자용 셀프서비스 제품을 만드는 방식으로, 개발팀의 생산성과 신뢰성을 향상시키는 데 중점을 둡니다. 윤석찬 에반젤리스트는 DevOps와 플랫폼 엔지니어링의 접근 방식을 각각 '내가 만들고 내가 실행한다'와 '내가 만들고 우리 모두가 실행한다'로 설명하며, 협력 작업과 자동화의 중요성을 강조했습니다.

 

사례

카카오페이증권의 조지훈 실장은 플랫폼 엔지니어링 도입 사례를 발표하며, 급격한 트래픽 변화에 능동적으로 대응할 수 있는 성공 사례를 공유했습니다. 그는 사내 개발자들이 쉽게 사용할 수 있는 셀프 서비스 플랫폼을 구축하여 개발자 경험과 생산성을 크게 향상시켰다고 설명했습니다.

 

 

KakaoTalk_20240523_170017682.jpg

3. 생성형 AI의 활용 

 

맷 우드 수석부사장은 생성형 AI의 3가지 레벨에 대해 설명하고, 각 레벨에 맞는 AWS의 생성형 AI 서비스와 제품을 소개했습니다. PartyRock, Amazon Q Business, Amazon Bedrock, Amazon Q Developer에 대해 설명했습니다. 

개발자들은 자신의 필요에 맞게 다양한 AWS 솔루션을 선택하여 파운데이션 모델을 기반으로 생성형 AI 앱을 개발할 수 있습니다. 주요 솔루션은 다음과 같습니다:

  1. Amazon PartyRock: 코딩 경험이 없어도 누구나 프롬프트를 기반으로 간단한 기능을 구현하고 공유할 수 있는 '생성형 AI 놀이터'입니다. 예를 들어, 특정 주제를 입력하면 몇 번의 클릭만으로 팟캐스트 제목, 에피소드, 관련 이미지를 생성할 수 있습니다.

  2. Amazon Q Business: 기업 내 데이터를 활용해 생성형 AI 포털을 만들어주는 완전 관리형 서비스입니다. 별도의 개발 절차 없이 챗봇 서비스를 생성할 수 있으며, 여러 데이터 소스를 연동할 수 있습니다.

  3. Amazon Bedrock: 다양한 AI 모델을 단일 API로 사용할 수 있도록 지원하는 완전 관리형 서비스입니다. 모델 선택, 평가, 미세 조정 등의 기능을 제공하며, 이번에 베드록 스튜디오를 프리뷰 버전으로 출시했습니다.

  4. Amazon Q Developer: 개발자가 코드 작성 시 사용할 수 있는 생성형 AI 도우미입니다. 코드 가이드, 생성, 테스트 및 변환 기능 등을 제공하여 개발 생산성을 높입니다. 예를 들어, 브리티시 텔레콤은 이 도구를 통해 반복 작업의 12%를 자동화했습니다.

생성형 AI는 개발자들의 업무 생산성을 높이는 중요한 도구로 자리 잡고 있습니다. AI 커뮤니케이션 플랫폼 센드버드의 CTO 구정진은 이를 활용해 맞춤형 챗봇 '센드버드 AI 챗봇'을 출시하고, 아마존 베드록 기반의 클로드3(Claude3)를 통해 서비스 오퍼링을 확대하고 있습니다.

 

 

사례

Sendbird의 구정진 CTO는 최근 멀티채널과 AI 챗봇으로 서비스를 확장했다고 밝히며, 생성형 AI가 성장을 위한 기회라고 강조했습니다. 그는 새로 구현된 No-code 기반 AI 챗봇이 웹과 모바일 환경 모두에서 최적의 UI를 제공하고, 개발 시간을 단축하며, 운영에 필요한 모니터링과 워크플로 통합을 지원한다고 설명했습니다. 

Amazon Bedrock을 사용해 컴플라이언스와 보안 문제를 해결했으며, 다양한 모델 선택과 통합의 용이함, 콘텐츠 안정성 관련 가드레일의 편리함을 언급했습니다. 그는 LLM 모델의 비용 감소와 RAG 조합, 워크플로 연계가 향후 중요한 주제가 될 것이라고 전망했습니다.

 

마무리하며 ✨

 

AWS Summit Seoul 2024는 '생성형 AI', '지속가능한 경영', '검소한 아키텍처', '플랫폼 엔지니어링' 등 다양한 주제를 다루며, 기술 혁신과 비용 절감, 지속 가능성을 강조했습니다. 

도전 없는 성공은 안주하는 경향이 있다는 말을 되새기며, 앞으로의 비즈니스 전략에 있어 끊임없는 도전과 혁신이 필요함을 느낄 수 있는 시간이었네요. 이번 키노트를 통해 얻은 인사이트가 여러분의 비즈니스에 도움이 되길 바랍니다! 감사합니다!

 

문의하기
presentation