LLM 이해와 선택 — 어떤 AI를 언제 쓸까

같은 프롬프트라도 어떤 모델에 넣느냐에 따라 결과의 질과 비용, 그리고 무엇보다 데이터 안전성이 달라진다. 이 파트는 LLM을 깊이 공부하기 위한 것이 아니라, 논문 작업이라는 좁은 목적 안에서 "지금 이 작업에는 어떤 모델을 쓰는 게 합리적인가"를 스스로 판단하는 감각을 만드는 데 목표가 있다. 세부 사양은 빠르게 바뀌므로, 개별 숫자보다 선택 기준을 기억하는 편이 오래 쓸모 있다.

1. 최소한의 기본 개념 (논문 작업 관점에서만)

모델을 고르려면 아래 다섯 개 용어의 실무적 의미만 알면 충분하다.

• 토큰(token): 모델이 글을 처리하는 최소 단위. 영어는 대략 한 단어가 1~2토큰이고, 한국어는 조사·어미까지 쪼개져 같은 글자 수라도 영어보다 토큰이 더 많이 든다. 그래서 한국어 원고는 "글자 수 대비" 비용·길이 부담이 체감보다 크다.
• 컨텍스트 윈도우(context window): 모델이 한 번에 기억하고 참조할 수 있는 입력+출력 토큰 총량. 논문 작업에서 가장 직접적인 제약이다. 창이 작으면 긴 문헌이나 장(章) 전체를 한꺼번에 못 넣어 앞부분을 "잊는다". 다만 창이 크다고 끝까지 똑같이 잘 기억하는 건 아니며, 문서 중간 정보를 놓치는 경향이 남아 있다.
• 파라미터·추론비용: 파라미터가 많은 큰 모델일수록 대체로 똑똑하지만 응답이 느리고 토큰당 단가가 높다. 논문 전체를 다듬는 무거운 작업엔 큰 모델, 단순 요약·형식 변환엔 작고 빠른 모델이 경제적이다.
• 지식 컷오프(knowledge cutoff): 모델이 학습한 데이터의 시점. 컷오프 이후의 최신 논문·통계·제도는 모델이 모르거나 지어낸다(환각). 선행연구·최신 수치는 반드시 원문으로 확인하고, 웹 검색 기능이 붙은 모드를 쓰더라도 인용은 직접 대조해야 한다.
• 온도(temperature): 출력의 무작위성. 낮으면(0에 가까움) 일관되고 보수적 — 요약·번역·정의·통계 해석에 적합. 높으면 표현이 다양해짐 — 제목·연구 아이디어 브레인스토밍에 유용. 논문 본문 서술은 대개 낮은 온도가 안전하다.

2. 논문 작업용 모델 선택 기준

모델을 고를 때 아래 축들을 작업 성격에 맞춰 가중치를 다르게 둔다.

• 컨텍스트 길이: 논문 한 장 전체, 여러 편의 선행연구, 코드+데이터를 한꺼번에 다룬다면 창이 큰 모델이 유리하다.
• 추론(reasoning/thinking) 능력: 방법론 설계, 통계 선택, 수식 전개, 논리 검증처럼 "단계적으로 생각해야 하는" 작업엔 추론 특화 모드가 확연히 낫다.
• 한국어 품질: 최종 문장의 자연스러움·학술 문체·조사 처리. 국문 초록과 본문 다듬기의 핵심 축이다.
• 코딩·데이터 분석: 통계 스크립트(R/Python), 그림 생성, 데이터 정제. 코딩에 강한 계열이 오류가 적다.
• 가격: 반복 실험·대량 처리라면 단가가 누적된다. 초안·탐색은 저렴한 모델, 최종본만 상위 모델로.
• 데이터 정책(no-training·ZDR): 미공개 연구데이터·피험자 정보·투고 전 원고를 넣는다면, 입력이 학습에 쓰이지 않는지(no-training)와 저장 자체를 하지 않는지(Zero Data Retention)를 반드시 확인한다. 이것이 무료·소비자 챗봇을 연구에 그대로 쓰면 안 되는 결정적 이유다.
• 파일/PDF 첨부 지원: 논문 PDF, 표, 그림을 직접 올려 다룰 수 있는지. 워크플로 효율을 크게 좌우한다.

데이터 정책은 "구독 등급"이 아니라 "채널"의 문제다. 같은 회사라도 소비자용 챗봇과 API·기업(Enterprise) 플랜의 정책이 다르다. 예컨대 API로 들어간 데이터는 학습에 쓰지 않는 것이 일반적이지만, 무료 소비자 계정은 옵트아웃하지 않으면 학습에 쓰일 수 있는 경우가 있다. 민감 데이터는 반드시 각 제공사의 현행 개인정보/데이터 처리 페이지를 직접 확인하라.

3. 2026년 현행 주요 상용 모델 비교

아래는 2026년 7월 기준 확인된 각 사의 대표 계열이다. 세부 버전과 가격은 자주 바뀌므로 정확한 단가는 반드시 각 사 공식 가격 페이지를 확인하고, 여기서는 상대적 위치만 참고하라.

세 계열 모두 상위 모델은 추론 강화 모드와 PDF·파일 첨부를 지원한다. "어느 회사가 절대적으로 낫다"는 판단보다, 작업별로 갈아 쓰는 편이 현실적이다(뒤의 실전 팁 참조).

4. 오픈웨이트(가중치 공개) 모델 — 언제 이걸 쓰나

Meta Llama, Alibaba Qwen, DeepSeek 계열은 모델 가중치가 공개되어 로컬/자체 서버에서 직접 구동하거나 세밀하게 튜닝할 수 있다. 2026년 상반기 기준, Qwen은 3.5~3.6 계열의 공개 체크포인트를 활발히 배포했고(Apache 2.0 라이선스 계열 포함), DeepSeek은 V4 계열로 장문·코드 작업에서 강세를 보였으며, Meta Llama는 Llama 4 Scout/Maverick가 여전히 통합 기본값으로 쓰인다(라이선스·구동 조건은 반드시 원문 확인).

대학원생이 굳이 오픈웨이트를 고려할 만한 상황은 제한적이지만 분명하다.

• 민감 데이터의 로컬 처리: IRB 대상 피험자 데이터, 계약상 외부 반출 금지 데이터, 미공개 실험 결과 등을 인터넷에 내보내지 않고 자체 장비에서 처리해야 할 때. "데이터가 기관 밖으로 나가지 않는다"는 것이 가장 큰 이점이다.
• 비용: 대량·반복 처리(수천 건의 텍스트 분류·요약 등)를 상용 API 단가로 돌리면 비싸질 때, 자체 구동이 총비용에서 유리할 수 있다.
• 재현성: 논문 방법으로 "특정 버전의 모델을 고정해" 실험을 재현·공개해야 할 때. 상용 모델은 버전이 조용히 바뀌지만, 오픈웨이트는 동일 가중치를 명시·배포할 수 있어 재현 가능성이 높다.

다만 GPU·운영 부담이 있고, 한국어 학술 문체의 마무리 품질은 최상위 상용 모델이 여전히 앞서는 경우가 많다. 다국어 처리(한국어 포함)에서는 Qwen 계열이 강점으로 자주 언급된다. 실제 채택 전에는 본인의 데이터로 소규모 파일럿 비교를 권한다.

5. 추론(reasoning/thinking) 모델을 방법론·통계·수리에 쓰는 법과 한계

추론 모델은 답을 내기 전에 내부적으로 단계를 밟는다. 논문 작업에서 특히 값진 용도는 다음과 같다.

• 통계 설계 자문: 연구설계·변수 척도·표본 조건을 주고 "적합한 분석기법과 그 가정, 위반 시 대안"을 단계적으로 정리하게 한다.
• 수식·유도 검증: 유도 과정을 한 줄씩 펼치게 해 논리 비약을 잡아낸다.
• 논증 구조 점검: 가설→방법→결과→해석의 연결이 논리적으로 성립하는지 반례를 들어 검토하게 한다.

사용 요령: 결론만 요구하지 말고 "단계별로 근거와 함께"를 명시하고, 가정·데이터 조건을 프롬프트에 구체적으로 넣을수록 정확해진다. 온도는 낮게 둔다.

한계는 분명하다. 추론 모델도 통계량을 계산하는 도구가 아니다. "그럴듯하게 맞는" 논리를 만들 뿐, 수치 자체는 틀릴 수 있다. 실제 값은 반드시 R·Python·SPSS 등에서 직접 계산·검산하라. 모델은 기법 선택과 해석의 조언자이지 계산기·검정기가 아니다. 방법론 선택의 최종 책임은 지도교수·통계 문헌·연구자 본인에게 있다.

6. 큰 모델 vs 작은·빠른 모델 — 작업별 매칭

원칙은 하나다. 탐색·초안은 싸고 빠르게, 최종본만 비싸고 정교하게.

7. 실전 팁 — 실제 논문 워크플로에 녹이기

• 교차검증: 방법론·통계 판단처럼 틀리면 치명적인 물음은 서로 다른 회사의 모델 두 곳에 같은 질문을 던져 답을 대조하라. 결론이 갈리면 그 지점이 곧 문헌으로 직접 확인해야 할 불확실 구간이다.
• 긴 문서는 컨텍스트 큰 모델로: 여러 편의 선행연구나 장 전체를 한 번에 넣어야 한다면 창이 큰 모델을 쓰되, "본문 X쪽 표의 수치를 그대로 인용"처럼 구체적 위치를 지정해 중간 정보 누락을 줄여라.
• 최종 문장은 한국어 강한 모델로: 내용은 추론 모델로 잡고, 마지막 국문 다듬기는 한국어 문체가 좋은 모델에 맡기는 2단계 분업이 효율적이다.
• 지식 컷오프를 의심: 최신 통계·법령·선행연구 인용은 모델 말을 믿지 말고 원문 대조. 존재하지 않는 논문을 지어내는 일이 드물지 않다.
• 민감 데이터는 채널을 가려서: 미공개 데이터·피험자 정보는 학습 미사용·ZDR이 보장되는 채널(기업/API)이나 오픈웨이트 로컬 구동에서만 다뤄라.
• 초안 후 형식 점검: 어떤 모델로 쓰든 제출 전 맞춤법·오타는 별도로 훑는 것이 안전하다. 초고를 완성한 뒤 무료 논문 검증으로 국문 맞춤법과 오타를 한 번 걸러두면, 내용 검토와 형식 교정을 분리해 실수를 줄일 수 있다. 이후 인쇄·제본 규격이 필요하면 논문 규격과 견적을 참고하라.

정리하면, "최고의 모델"을 찾는 대신 작업의 성격(길이·추론·언어·비용·데이터 민감도)에 모델을 매칭하는 습관을 들이는 것이 핵심이다. 모델은 매달 바뀌지만, 이 매칭 기준은 오래간다.