제미나이 최신 모델, temperature·top_p·top_k 이제 안 먹힌다

구글이 제미나이 최신 모델부터 temperature, top_p, top_k 같은 샘플링 파라미터를 지원 중단(deprecated)하고 무시하기로 했습니다. 값을 넣어도 오류는 안 나지만 아무런 효과가 없습니다. 그동안 창의성과 일관성 사이 균형을 맞추려 temperature를 0에 가깝게 낮추거나, top_p로 응답 다양성을 조절하던 개발자에겐 꽤 큰 변화입니다. 구글은 최신 추론 모델이 내부적으로 최적의 디코딩 방식을 스스로 결정하도록 설계됐기 때문에, 수동 튜닝이 오히려 성능을 해칠 수 있다고 봅니다. 즉 '파라미터로 모델을 길들이는 시대'가 저물고 있는 셈이죠. 실무 관점에서 체크할 점은 세 가지입니다. 첫째, 기존 코드에 이 값들을 하드코딩했다면 이제 무의미하니 정리하세요. 둘째, 결정론적(deterministic) 출력을 temperature=0으로 보장하던 로직은 다시 검증이 필요합니다. 셋째, 응답 스타일 제어는 이제 파라미터가 아니라 프롬프트 엔지니어링으로 옮겨가야 합니다. 다른 LLM 제공사들도 비슷한 방향을 따를지 지켜볼 대목입니다.