영어 미팅은 당연하게도 영어가 편한 사람이 유리합니다. 특히 미팅은 발언 타이밍이 정말 중요한데 내가 아무리 머리속으로 완벽해도 영어가 모국어가 아니라면 버퍼링에 걸려버리고 그냥 발언을 포기하고는 합니다. 이 문제를 언어 구사에 특히 강점을 발휘하고 있는 LLM으로 해결할 수 있을 것 같아 제품을 만들기 시작했습니다. 이 제품은 Zoom, Google meet, Teams 등 원격 회의 툴 위에 투명 창 하나를 띄워둘 수 있는 별도 데스크탑 어플리케이션입니다. 아래와 같은 핵심 기능들을 제공합니다. 제가 기술적으로 가장 집중하고 노력한 부분은 최대한 빠르게 응답을 받는 것이었습니다. 아무리 좋은 성능이어도 정신없이 흘러가는 미팅에서 단 2초정만 지나도 의미없는 정보가 되기 때문입니다. LLM들의 성능은 이미 충분히 영어를 보조하기에 좋지만 토큰 생성속도는 모델별로 천차만별이고 이 밸런스를 잡는데에 정말 많은 시간을 썼습니다. 테스트해본 파운데이션 모델만 수십개가 넘고 현재는 각 목표에 맞는 적합한 파운데이션 모델 조합을 찾아 최적화해나가고 있습니다. 그 결과 번역 뿐만아니라 표현을 제안받거나 하는 부분에서 모두 LLM을 활용하면서도 거의 실시간에 가까운 응답속도로 좋은 품질의 결과를 받을 수 있게 되었습니다. 3개월간 알파테스터 150명과 매일매일 카톡과 1:1 화상 인터뷰를 진행하며 제품을 매주 조금씩 개선해왔고 드디어 정식 런칭하게 되었습니다. 수년간 GeekNews를 눈팅만 하고 슬랙으로 알림만 받아보다가 직접 글을 작성하게되니 조금 떨리는데요.. 제품에 관심이 생기셨다면 한번 아래 링크에서 구경해보시고 피드백을 댓글로 주셔도 너무 감사하고 큰 도움이 될 것 같습니다. 신용카드 등록 없이 무료로 사용해보실 수 있습니다.
https://trysmooth.ai

5 days ago
5










English (US) ·