[강연자: 솔루션즈 아키텍트 김범준]
생성형 AI와 Amazon Bedrock
실제 업무에서 사람이 만든 콘텐츠에 가까운 오리지널 콘텐츠를 생성할 수 있는 AI이다.
foundation model이란?
- 아마존에서는 bedrock을 통해 foundation model을 사용할 수 있다.
배드록은 에이전트를 지원한다.
중요한건 배드록은 서버리스라는 것이다. 단순히 api 호출을 통해 접목하여 사용할 수 있다.
[센드버드 : 리드 PM 박상화]
글로벌 saas 기업 센드버드의 새로운 도전
- 센드버드: 디지털 세상을 연결한다. (채팅 api가 주력 상품은 맞다. 하지만 채팅 말고 다른것도 한다.)
- 매월 70억개의 메시지가 오고간다.
- 프롬프트 엔지니어링 지원, knowledge base 구축, no code 위젯 지원
- Prompt History 기능을 통해 프롬프트의 역사를 유저에게 모두 보여준다.
- RAG관리 툴 knowledge management를 제공한다.
- RAG는 좋지만 계속 유지되어야 한다. 내부 문서가 바뀌면 계속 이게 챗봇에 적용되어야 한다는 것이다.