요기어때: 요즘 이 기술 어때?

안녕하세요, 코멘토 앱 개발자 최수빈입니다.🐥

ChatGPT의 딥리서치 결과에 따르면 2024년 말 기준 전 세계에서 약 6만7천여 개의 AI 기업이 활동 중이며, 이러한 추세라면 2025년 말엔 생성형 AI 스타트업 수가 10만 개에 이를 것으로 전망된다고 해요. AI 기술이 폭발적으로 성장하는 요즘, 아침 출근하자마자 쏟아지는 AI 기술 뉴스와 신제품 발표를 읽는 것만으로도 벅찬데요. 이런 변화 속에서 “코멘토 개발팀원들은 요즘 어떤 기술과 도구에 가장 주목하고 있을까 🤔”란 궁금증이 생겼습니다.

이러한 고민을 나누기 위해, 지난 2월 현재 주목받는 기술과 각자가 관심 있는 도구, 그리고 이를 실무에서 어떻게 활용하고 있는지 공유하는 시간을 가졌어요. 특히 이번 세미나에서는 🦄 AWS Unicorn Day 2025 🦄에서 곧 발표되는 창섭님의 세션을 미리 만나볼 수 있는 특권도 누려보았답니다!

요즘 코멘토 개발팀이 어떤 기술과 도구를 탐색하고, 실무에 적용하고 있는지 함께 살펴보겠습니다. 🚀

발표 주제:

• 유성실:  Anki, 나만의 기억 도우미
• 김창섭: 보안 중심의 AI 에이전트 개발, 포텐스닷 도전기
• 윤종석: 유저가 바로 체감하는 성능 개선

성실님: Anki, 나만의 기억 도우미

성실님도 요즘 AI에 관한 각종 정보가 쏟아져서 ‘어떻게 하면 중요한 지식이 쉽게 휘발되지 않고 내 것으로 만들 수 있을지’ 고민이셨다고 해요. 그러다 휘동님을 통해 Anki라는 도구를 접하게 되었고, 직접 사용해 보게 되었다고 합니다.

Anki는 일본어로 ‘암기’를 뜻하는 단어에서 이름을 따왔어요. 말 그대로 ‘나만의 기억 도우미’로, 클래식 카드 방식의 암기 프로그램이에요. 망각 곡선 이론에 기반해 학습 내용을 조금씩 간격을 두고 반복할 수 있도록 설계되어 있어요.

Anki에는 다양한 카드 유형이 있는데요,

• 클래식 카드: 일반적으로 질문과 답으로 구성된 카드로, 개념이나 용어 학습에 적합해요!
• 리버스 카드: 한 번의 카드로 양방향 암기를 지원하지만, 카드 수가 늘어나 학습 부담이 될 수 있으므로 필요할 때만 사용하는 것이 좋아요!
• 클로즈 카드: 중요한 문장이나 구절에서 일부를 빈칸으로 만들어 기억을 점검하는 방식으로, 연상 효과를 극대화해요!
• 이미지 카드: 시각적 자료를 활용해 기억력을 자극하는 카드에요!

성실님은 실제로 사용해보신 Anki 카드를 보여주셨어요. AI 에이전트와 관련된 개념을 학습할 때, 한 번의 힌트 없이도 기억을 떠올릴 수 있도록 카드를 구성하거나 책에서 인상 깊은 구절을 암기해 두어 이후 원온원 시간에 유용하게 활용하는 등 실생활에서 바로 적용해볼 수 있도록 성실님만의 템플릿을 보여주셨어요.

카드의 하단에는 ‘왜 이 카드가 필요한지’에 대한 why와 date, ref 등 필수 정보를 함께 기록해 두면 나중에 복습할 때 큰 도움이 된다는 실용적인 팁도 전해 주셨습니다.

혹시 중요한 지식을 잘 정리하는데 관심이 많으신 분이라면 자신만의 방식으로 Anki를 활용해 꾸준히 지식을 다지는 습관을 만들어 보시길 추천드립니다. 성실님이 anki를 적용하는데 많은 도움이 되셨다고 하신 휘동님의 글을 참고하시면 좋을 것 같아요!

성실님의 발표 덕분에 학습에서부터 자기계발까지 여러 방면으로 확장해 사용할 수 있는 도구를 알게 될 수 있었어요. (전 이 세션을 듣자마자 anki를 바로 다운받았답니다! 요긴하게 써볼게요! 👏)

창섭님: 보안 중심의 AI 에이전트 개발, 포텐스닷 도전기

이번 세션에서 창섭님은 코멘토의 AI 에이전트 포텐스닷을 어떻게 초기 기획하고 개발했는지에 대해 심도 있게 공유해 주셨어요. 사용자 프롬프트와 파일 등이 외부에 유출되지 않도록, 보안이 철저한 환경에서 운영되어야 한다는 점이 포텐스닷의 큰 핵심 기능이였는데요. 포텐스닷의 개발 초기부터 창섭님과 팀은 “어떻게 하면 AI 에이전트에서 보안과 안정성을 동시에 만족시킬 수 있을까?”라는 고민을 중심에 두고 진행했습니다.

초기에는 Amazon의 Bedrock과 Google의 Vertex AI 등 다양한 API들을 두고 검토했지만, 창섭님은 아래와 같은 이유로  Amazon의 Bedrock을 선택하게 되었습니다.

• 보안적 측면: 베드락은 사용자의 프롬프트나 파일을 저장하지 않는다는 보안 정책이 있어, 포텐스닷 개발에 제일 적절했어요!
• 지원 인프라와 협업: 전담 매니저와의 원활한 소통, 스타트업 지원 프로그램을 통해 MVP 프로토타입을 빠르게 구축할 수 있었던 점도 결정적인 역할을 했어요!

창섭님은 채팅, 스트리밍, 파일 첨부, 대화 기억 기능 등 AI 에이전트에 필요한 기본적인 네 가지 기능을 구현하는 데 집중하면서도, 특히 기술의 간소화와 안정성에 많은 노력을 기울였습니다.

Bedrock의 convers_stream은 일관된 API로 다양한 모델을 사용할 수 있도록 지원하며, 스트리밍 방식으로 AI 응답 속도를 향상시키는 기능입니다. convers_stream을 활용해 하나의 API 인터페이스로 다양한 AI 모델을 손쉽게 교체할 수 있는 구조를 만들었습니다. 덕분에 특정 모델에 종속되지 않고, 필요에 따라 여러 모델을 유연하게 적용할 수 있게 되었어요. 또한, 스트리밍 기능이 기본적으로 지원되기 때문에 AI 응답 속도를 더욱 빠르게 개선할 수 있었습니다.

보안 측면에서도 다양한 조치를 적용했습니다. DynamoDB를 활용할 때는 IAM(Identity and Access Management) 정책을 엄격하게 설정하고, VPC 엔드포인트를 활용해 외부 접근을 차단하여 보안성을 높였습니다. 또한, TTL(Time To Live) 기능을 적용해 특정 시간이 지나면 자동으로 데이터를 삭제하도록 구성함으로써 불필요한 데이터가 장기적으로 쌓이지 않도록 했어요.

S3에서도 보안을 강화하기 위해 IAM 정책과 KMS(Key Management Service)를 활용하여 저장된 데이터를 암호화하고, 퍼블릭 접근을 차단하는 설정을 적용했습니다. 또한, 라이프사이클 관리를 통해 일정 기간이 지나면 자동으로 데이터를 정리할 수 있도록 설정해 보안과 저장 비용 절감을 동시에 실현했습니다.

추가적으로, 백오프(Backoff)와 지터(Jitter) 기법을 적용하여 네트워크 오류 발생 시 트래픽을 조절하면서 재시도 요청을 효과적으로 분산하는 장치를 마련했습니다. 단순히 요청을 반복해서 보내는 것이 아니라, 재시도 간격을 점진적으로 늘리고, 무작위 요소를 추가해 특정 순간에 서버 부하가 몰리는 것을 방지하는 방식입니다. 이를 통해 과부하로 인해 발생할 수 있는 시스템 충돌을 예방하고, 네트워크 안정성을 더욱 강화할 수 있었습니다.

이미지 출처 : https://aws.amazon.com/ko/blogs/architecture/exponential-backoff-and-jitter/

창섭님의 포텐스닷 개발기는 보안과 사용자 경험을 모두 고려한 AI 에이전트 개발의 실제 사례를 코드와 함께 자세히 살펴볼 수 있어 개발팀 전원에게 뜻깊은 시간이었습니다. 초기 기획부터 근거 있는 기술 선택 과정, AWS의 다양한 서비스를 활용한 보안 및 안정성 강화 전략까지 깊이 있게 공유해 주셨는데요.

혹시 창섭님의 발표가 궁금하신 분들은 오는 🦄 AWS Unicorn Day 2025 🦄에서 직접 만나보실 수 있습니다! 실제 프로젝트에서 검증된 기술과 노하우를 더 자세히 듣고 싶다면, 행사 일정과 세션 정보를 확인해 보세요. 🚀

종석님: 유저가 바로 체감하는 성능 개선

이번 세션에서 종석님은 코멘토 커뮤니티의 핵심 기능인 질문-답변 페이지의 성능 개선을 위해 실제로 적용한 다양한 기술을 소개해 주셨어요.  종석님은 페이지 로딩 시간이 아무리 길어도 사용자에게 가장 중요한 콘텐츠를 1초 이내에 볼 수 있어야 한다고 강조해주셨는데요.

서버 사이드 렌더링 환경에서는 기본적으로 페이지를 모두 그린 후 클라이언트에 전달하기 때문에, API 호출이나 데이터 로드 과정에서 블로킹이 발생하면 전체 페이지 로딩이 지연됩니다. 반면, 논블로킹 방식과 스트리밍 기법을 도입하면 초기 중요한 콘텐츠는 빠르게 보여주고, 나머지 부분은 점진적으로 로드할 수 있어 유저 체감 속도를 대폭 향상시킬 수 있습니다.

종석님은 기존 질문-답변 페이지에서 사용되는 메타 데이터를 불러오는 함수로 인한 블로킹 동작이 문제였음을 파악하고, 우선적으로 필요한 정보만 빠르게 불러오는 새로운 API를 추가해 빠른 응답 속도를 구현했습니다. 그 결과, 초기 배포 시 수 초가 걸리던 페이지 로딩이 현저히 단축되어, 유저가 페이지에 접근하자마자 핵심 콘텐츠를 확인할 수 있게 되었습니다.

특히, 이전에는 Next.js의 generateMetadata 함수가 기본적으로 블로킹 방식으로 동작*했기 때문에, 메타데이터를 동적으로 불러올 경우 페이지 전체가 로딩될 때까지 기다려야 하는 문제가 있었습니다. 이는 유저가 페이지 콘텐츠를 보기 전까지 긴 대기 시간이 발생하는 원인이 되었죠.

또한, 종석님은 이전 세미나에서 좋아요, 북마크 등 빠르게 반영되어야 하는 유저 인터랙션에서 사용할 수 있는 옵티미스틱 업데이트(optimistic update) 전략을 소개해주신 적이 있는데요. 이번 세미나에서는 이 전략을 React Query에서 직접 구현하는 방법을 공유했습니다.

API 응답을 기다리지 않고 바로 변경된 상태를 보여줌으로써, 사용자가 즉각적인 피드백을 받을 수 있도록 했어요. 기존 데이터를 즉시 업데이트하고, 최종적으로 서버와 동기화하는 방식으로 구현하여, 실시간 체감 성능을 극대화하는 데 성공했습니다.

AI 기술이 하루가 다르게 발전하고, 새로운 기능이 쏟아지는 시대지만, 결국 우리가 만드는 서비스가 사용자에게 얼마나 빠르고 쾌적한 경험을 제공하는가는 변함없이 중요한 가치입니다. 블로킹/논블로킹 처리 방식, 스트리밍 기법, 옵티미스틱 업데이트처럼 기본적인 웹 기술을 깊이 이해하고 적절히 활용하는 것이야말로, 화려한 기술을 적용하는 것만큼이나 필수적인 요소라는 점을 다시금 깨닫게 해준 발표였습니다.

* Next.js 15.2 버전부터는 generateMetadata 함수가 스트리밍을 지원하게 되면서, 페이지 본문과 메타데이터를 별도로 로딩할 수 있는 기능이 추가되었습니다. 참고

이번 ‘요기어때’ 세미나는 단순한 기술 발표를 넘어, 변화하는 환경 속에서 어떻게 학습하고, 어떻게 핵심 가치를 지키며 더 좋은 시스템을 구축할 수 있을지에 대한 깊은 고민을 함께 나눈 소중한 시간이었습니다. AI가 빠르게 발전하는 시대이지만, 결국 개발자의 역할은 기술을 합리적으로 선택하고, 본질적인 사용자 경험을 개선하는 데 집중하는 것임을 다시 한번 깨달았습니다.

앞으로도 코멘토 개발팀은 기술 자체보다 문제 해결을 우선시하는 팀으로, 여러 도구와 접근 방식을 탐색하고 실험해 나갈 예정입니다. 다음 세미나도 기대해 주세요! 🚀