[AWS DNA 6기] GenAI 1,2주차

 

[1 주차]

 

 첫 주인만큼 어느 회사에서 왔는지, 어떤 팀에서 왔는지와 GenAI 개념을 이해하고, AWS를 통해 GenAI 기반 아키텍처를 구성할 수 있는 다양한 서비스를 알아보는 시간을 가졌다. 또한 각자의 회사가 만들고자 하는 기능(MVP)의 초안을 AWS Working Backwards 프로그램을 통해 기획하는 시간을 가졌다.

 

 6주의 기간을 거치며 각 회사에서 생성형 AI를 사용한 프로젝트를 하게 된다.

 

aws 자료

 

 작년과 달라진 GenAI의 동향을 보았을 때,

 작년까지는 chatgpt의 열풍이 불며 이를 믿어도 될지, 사용에 다른 불이익이 없을 지에 대해 관심을 가졌다면, 올해부터는 어떻게 커스터마이즈하고 더 효율적으로 사용할지를 생각하는 방향으로 바뀌었다.

 

 aws에서 기본 FM을 사용하여 커스터마이즈 할 수 있고, 인프라 구축과 보안적인 부분까지 다 확인하고 실습도 가능한 환경을 만들어주어, 사용에 편리함과 간단한 개발을 해볼 수 있을 것이라는 기대가 되었다.

 

 

 

 오후에는 기획 단계를 거쳤다.

 우리 회사가 원하는 목적, 어떻게 사용할지에 대한 브레인스토밍 단계를 거쳤다.

 

 외국 기업이어서 그런 지 생각의 방식이 다른 게 확실히 인상 깊었다.

 우리는 목표를 정하고 그 목표를 위해 열심히 달려가며 목적 달성을 위하지만,

 

 backwards 과정에서는 가장 아래에서부터 생각하고 아이디어를 계속해서 끌어낼 수 있도록 도와주는 방식이었다.

 덕분에 여러 방식으로 특이한(?) 고민을 해보게 되었고, 즐겁게 임하였다.

 

 

 

[2 주차]

 

 지난 주차의 내용을 다시 한번 복습하고 실습을 위주로 돌아가게 되었다.

(그 회차마다 설문 조사를 하여 피드백을 바로 받아서 적용하여 주는 부분도, 너무 멋있다고 생각했다. 역시 대기업)

 

 

 

 오후 첫 번째 세션에서는 Amazon Q를 사용해보았다.

 이는 업무용으로 특별히 설계되어, 회사의 정보 저장소, 코드 및 엔터프라이즈 시스템에서 발견되는 데이터와 전문 지식을 사용한 대화, 문제 해결, 콘텐츠 생성, 조치를 취하도록 비즈니스에 맞게 조정할 수 있는 새로운 유형의 생성형 AI 기반 어시스턴트이다. 

 

 

 

 오후 두 번째 세션은 Bedrock Playground 실습이었다.

 Amazon Bedrock은 위 그림처럼, LLM 및 기타 FM을 통해 생성형 ai를 구축하고 확장할 수 있는 놀이터라고 볼 수 있다.

 

 

 

 이 들이 제공하는 모델은 대부분 최근에 SOTA를 가지는 모델들이다.

 아쉬운 점은 한국어가 되는 모델이 많이 없다는 점이지만, 공부하기엔 딱 좋은 환경이라고 생각했다.

 

Bedrock은

 

FM 선택 → 필요에 따른 fine-tuning 후 자동 배포 → bedrock api를 통해 모델에 프롬프트 보냄 → 앱에서 response 받기 

 

의 순서로 진행된다.

 

 

---

 실제로 사용 가능한 서버 구성을 해주시고, 계정도 발급해 주신다.

 뭐가 되었건 확실히 개발은 실습이 가장 재미있고 공부가 되는 것...  너무 좋은 기회였다.

 

 남은 4주는 더 세밀하게 기록해 보도록 하겠다.