스테이크를 굽는 데는 대단한 기술이 필요하지 않다. 뜨거운 팬에 고기를 올리고 잠시 기다렸다 뒤집으면, 어쨌든 먹을 수 있는 무언가가 나온다. 그러나 겉은 제대로 시어링되고 속은 가장자리까지 미디엄레어로 균일하며, 간이 맞고 매번 같은 맛을 내는 스테이크는 전혀 다른 이야기다. 블로거 시도레츠(Sydorets)는 AI로 소프트웨어를 만드는 일이 바로 이 스테이크 비유와 닮아가고 있다고 말한다. 그의 글은 AI가 개발 속도를 끌어올릴 수는 있어도, 꾸준히 좋은 소프트웨어를 만드는 데 필요한 판단과 이해를 대신할 수는 없다는 주장을 담고 있다.
우리는 지금 멈추지 않고 만든다
지금 우리는 쉼 없이 무언가를 만든다. AI를 쓰든 안 쓰든, 출퇴근길에도, 심지어 잠자는 사이에도 뭔가가 빚어지는 듯한 감각이다. 에이전트와 하네스, 도구와 스킬, 프롬프트와 피드백 루프, 복잡한 워크플로를 짜 넣고는 그것을 모델에 던져 넣는다. 그러고는 내부가 실제로 어떻게 돌아가는지 이해하지 않은 채, 머릿속에 그렸던 결과가 나오기를 기대한다. 우리가 원하는 것은 작동하고, 보기 좋고, 완성도가 느껴지며, 상상한 그대로 도착하는 소프트웨어다. 무엇보다 매번 같은 결과이기를 바란다.
하지만 현실은 매번은커녕 그 근처에도 못 미친다. 어떤 날은 모델이 놀랄 만큼 훌륭한 결과를 건네지만, 다른 날은 새까맣게 탄 고기에 타임 한 줄기를 얹어 놓고는 미디엄레어라며 뻔뻔하게 우긴다. 자신이 틀렸다는 사실조차 확신에 찬 어조로 감춘다. 실무자 입장에서 이 '자신감 있는 거짓말'은 단순한 품질 문제가 아니라, 검증 비용을 산출물 뒤편으로 떠넘기는 구조적 함정이다. 결과물이 그럴듯할수록 어디가 잘못됐는지 찾아내는 일은 더 어려워진다.
AI는 셰프가 아니라 스테이크 기계다
많은 사람은 구현의 세부에 파묻히지 않고도 AI로 아끼는 무언가를 만들고 싶어 한다. 내 주방에서 일하는 전문 셰프처럼, 원하는 바를 말해 두고 자리를 비웠다가 요리가 완성됐을 때 돌아오는 그림을 꿈꾼다. 그러나 저자는 단호하게 선을 긋는다. AI는 셰프가 아니다. 잘해야 스테이크 기계다. 온도를 살피고 정확한 순간에 뒤집고 버터를 떨어뜨리는 레시피는 따를 수 있고, 충분한 도구와 지시만 주어지면 그 과정을 빠르게 대규모로 반복한다. 다만 당신이 진짜로 무엇을 원하는지는 알지 못한다.
기계는 당신 머릿속 그림을 요구사항과 제약, 예시, 테스트, 피드백으로 번역해 주지 않는 한 볼 수 없다. 그렇게 번역해 준 뒤에도 자신의 능력, 컨텍스트 윈도, 그것을 감싼 시스템의 품질이라는 상자 안에 갇혀 있다. 옆에 붙어 서서 30초마다 교정할 수는 있고 그게 도움이 될지도 모르지만, 그렇다고 기계가 미슐랭 스타 셰프로 바뀌지는 않는다. 프리미엄 제품을 결제하고 에이전시를 고용하고 새 프레임워크로 갈아타며 누군가 대신 문제를 풀어 놨기를 바라지만, 풀려 있을 때보다 그렇지 않을 때가 훨씬 잦다.
대부분은 눈치채지 못한다
글에서 가장 뼈아픈 통찰은 여기 있다. 결국 지친 당신이 '꿈의 스테이크'를 돈 주고 사 먹기로 하고 비싼 레스토랑에 앉아도, 첫 입을 무는 순간 실망하게 된다. 왜냐하면 도시의 모든 레스토랑이 똑같은 AI 요리사를 고용했기 때문이다. 경영진은 '비용 최적화'라 말하고 '대부분은 눈치 못 챈다'고 덧붙인다. 그리고 그 말은 대체로 맞다. 대부분의 소프트웨어는 그저 '받아들일 만한' 수준이면 충분하다. 사용자는 이상한 인터페이스, 쓸모없는 기능, 기묘한 버그, 아무도 제대로 이해하지 못하는 생성 코드로 얽혀 있는 시스템을 그럭저럭 견뎌 낸다.
차이를 알아채는 사람은, 그것이 자기가 정말로 만들고 싶었던 무언가였던 사람뿐이다. 저자가 내놓는 유일한 출구는 결국 요리를 직접 배우는 것이다. 열이 실제로 무엇을 하는지, 어떤 팬이 왜 중요한지, 두께와 레스팅이 왜 결과를 가르는지, 타이머만으로는 결코 구제되지 않는다는 사실을 몸으로 익히는 과정이다. 몇 번 더 저녁을 망치고, 다시 시도하고, 또 시도한 끝에 운에 기대는 것을 그만두게 된다.
실무자에게 이 글의 메시지는 명확하다. AI는 반복 작업을 자동화하고 출발점을 뽑아 주고 코드를 설명하며 아이디어를 두드려 보게 해 주는 방식으로 당신을 더 빠르게 만든다. 그러나 판단은 대신하지 못한다. 무엇이 품질인지 정의하지 못하고, 어떤 트레이드오프가 허용 가능한지 결정하지 못하며, 기술적으로는 맞지만 중요한 모든 면에서 틀린 순간을 늘 잡아내지도 못한다. AI로 좋은 소프트웨어를 만들려면 여전히 소프트웨어를 이해해야 한다. 자신이 실제로 무엇을 요청하는지, 돌아온 결과를 어떻게 판단할지, 기계가 확신에 차 새까만 숯덩이를 내미는 순간이 언제인지를 알아야 한다. 다만 이 글은 하나의 비유에 기댄 에세이인 만큼, 어떤 작업이 '스테이크 기계'로 충분하고 어떤 작업이 셰프의 판단을 요구하는지에 대한 구체적 기준까지는 제시하지 않는다는 점은 감안해 읽을 필요가 있다.