안녕하세요, AI 애호가 여러분! 오늘은 14인치 MacBook Pro M4 Pro 랩탑에 48GB의 RAM과 함께 Lambda 3.1, Lambda 3.2, MISTOL, Gemini, Gemini 2, Quartz 2.5의 성능을 살펴보겠습니다.

우선, 모든 모델의 크기는 약 5.4GB로 랩탑 성능에 큰 부담을 주지 않습니다. 이번 실험의 목표는 이러한 모델이 랩탑에서 얼마나 빠르게 실행되는지 확인하고, 다음과 같은 프롬프트를 사용하여 스토리를 생성하는 데 적합한지 알아보는 것입니다.

“[책 작가가 되어] 프랑스어에서 영어로 번역하는 존의 직업을 AI가 빼앗은 이야기를 500단어 분량으로 쓰세요. AI가 존의 업무의 95%를 맡아 근무가 끝난 후 존은 안나라는 아내의 위로에도 불구하고 직업 상실의 충격에서 벗어나지 못하는 이야기여야 합니다.”

다양한 모델을 실행한 결과 다음과 같았습니다.

• Lambda 3.1: 500단어 미만인 604토큰을 14.8초, 초당 약 40토큰 생성
• Lambda 3.2: 500단어에 가까운 687토큰을 10초, 초당 약 64토큰 생성
• MISTOL: 598토큰을 13초, 초당 약 44.5토큰 생성
• Gemini: 427토큰으로 11초, 초당 약 36토큰 생성
• Gemini 2: 681토큰을 21초, 초당 약 31토큰 생성
• Quartz 2.5: 1,300토큰으로 22초, 초당 약 59토큰 생성

모델의 성능을 종합적으로 평가한 결과, Lambda 3.2가 효율적인 스토리텔링, 정서적 깊이, 정확한 자연어 처리 능력을 갖춘 최고의 모델로 나타났습니다. Lambda 3.1, Gemini 2, Quartz 2.5도 우수한 성능을 보였습니다.