| ๋ฆฌ๋ทฐ์ด | ๋ฐ๊ฒฌ ๊ฒฐํจ ์ |
|---|---|
| Reviewer 1 | 30๊ฑด |
| Reviewer 2 | 36๊ฑด |
| Reviewer 3 | 30๊ฑด |
| ๋ณํฉ ํ ํตํฉ | 24๊ฑด |
3๋ช ์ ์์ด ์ง์ ํ ์ด์์ ๋๋ค. ์ฐ์ ์ฒ๋ฆฌ ๋์.
๋์ผ ๋๊ตฌ๋ฅผ write_file/Write/writeยทread_file/Read๋ก ํผ์ฉ. Claude Code ์ค์ ๋๊ตฌ๋ช ์ Write/Read์ด๋ฏ๋ก ํ๊ธฐ๋ฅผ ํต์ผํด์ผ ํ๋ค. 3๋ช ์ ์ ์ง์ โ ๋์ผ root cause.
Step 1์ ์๋ฌธ ํค์๋ 6๊ฐ๋ก ๋งค์นญํ๊ณ , Step 2-3์ ํ๊ตญ์ด 3๊ฐ+architecture+general์ ํ์ฉ ๊ฐ์ผ๋ก ์ ์. ๋ ๋ชฉ๋ก์ ๋งคํ ๊ท์น(prdโ๋ฌด์?)์ด ๋๋ฝ๋์ด ์ด๋ค ๊ฐ์ด ์ ๋ฌ๋๋์ง ๊ฒฐ์ ๋ถ๊ฐ.
์คํฌ์ ํต์ฌ ๊ฒฐ๊ณผ๋ฌผ์ธ Tier ๋ถ๋ฅ(N/N=๐ด, โฅceil(N/2)=๐ก)๊ฐ SKILL.md์ ์ ์๋์ง ์๊ณ aggregate.md์ ์ธ๋ถํ. SKILL.md๋ง์ผ๋ก๋ ๋์ ์์ธก์ด ๋ถ๊ฐ๋ฅํ๊ณ N=2/N=5 ๋ณ๊ฒฝ ์ ์๊ณ์น ๋์ถ ๋ถ๋ช ํ.
200K context ์๊ตฌํ๋ฉด์ 60K๋ก ์ฐจ๋จํ๋ ๊ทผ๊ฑฐ ๋ฏธ์ค๋ช . ๋ํ ํ ํฐ ์ธก์ ๋ฐฉ๋ฒ(์ด๋ค tokenizer, ๋ชจ๋ธ๋ณ ์ฐจ์ด)์ด ์ ์๋์ง ์์ ์ฌ์ฉ์๊ฐ "X ํ ํฐ"์ ์ ์ ์์. R1ยทR2ยทR3 ๋์ผ root cause(์๊ณ์น ์ ํฉ์ฑ+์ธก์ ๋ฏธ์ ์).
"500 ๋จ์ด / 2KB"๊ฐ OR/AND์ธ์ง ๋ช ์๋์ง ์๊ณ ํ๊ธ ๋จ์ด ์นด์ดํธ ๊ธฐ์ค(๊ณต๋ฐฑ ๋ถ๋ฆฌ/ํ ํฐ)๋ ๋ฏธ์ ์. description์ 500 ๋จ์ด ๋ฏธ๋ง์ ์ ์ฉ ๋์ ์๋๋ผ๊ณ ํ๋ฉด์ Step 1์ ๊ทธ ๋ฏธ๋ง ์ธ๋ผ์ธ์ ๊ทธ๋๋ก ์ฒ๋ฆฌํ๋ ๋ถ๊ธฐ ์ ๊ณตํด ์ถฉ๋.
SKILL.md๊ฐ ๋ค์ ์ธ๋ถ ํ์ผ์ ์์กดํ์ง๋ง ์์น ๊ท์ฝ/์กด์ฌ ๋ณด์ฅ/๋๋ฝ ์ ๋์์ด ๋ช ์๋์ง ์์. ์ธ๋ถ ํ์ผ ๋ณ๊ฒฝ/๋๋ฝ ์ ์คํฌ์ด ๊นจ์ง๋ฉฐ ๋ฌด๊ฒฐ์ฑ ๊ฒ์ฆ ๋ถ๊ฐ.
+6.5~30.6%p์ 6 LLM ร 3 benchmark์ ์ธก์ ์กฐ๊ฑด(N, ๋ชจ๋ธ, ๋ฐ์ดํฐ์ , ๋น๊ต ๊ธฐ์ค)์ด ๋ณธ๋ฌธ์ ์ ์๋์ง ์์ ์ฌ์ฉ์๊ฐ ๊ฒฐ๊ณผ๋ฅผ ๊ฒ์ฆ/์กฐ์ ๋ถ๊ฐ. ๋ ๊ณณ์์ ์ธ์ฉ๋์ง๋ง ์ถ์ฒ ๋งํฌ ์์.
2/3์ด ์ง์ ํ ์ด์. ๊ฒํ ๊ถ์ฅ.
4์ ๋์์ ๋ฌธ์ ์งํฉ(16์ง์๋ง vs ์์ซ์, ๋์๋ฌธ์ ํ์ฉ ์ฌ๋ถ)์ด ์ ์๋์ง ์์ ๊ตฌํ์ฒด๊ฐ ๋ค๋ฅธ ํ์ ์์ฑ ๊ฐ๋ฅ. ์ถฉ๋ ํ๋ฅ ๋ณด์ฅ๋ ๋ถ๋ช ํ.
๋ฒค์น๋งํฌ๋ 0.7~1.0๋ง ์ธก์ ํ ์ฑ 0.3 ๋ฏธ๋ง ๊ธ์ง. 0.3~0.7 ๊ตฌ๊ฐ ๊ถ์ฅ๊ฐ/ํ์ฉ ๋ฏธ์ ์. ๋ํ ์๋ธ์์ด์ ํธ ๊ธฐ๋ณธ๊ฐ ์ฌ์ฉํ๋ค๋ฉด์ "๋ฎ์ถ์ง ๋ง์ธ์"์ ๋ช ๋ น ๋์(๋ฉ์ธ/์ฌ์ฉ์/์๋ธ์์ด์ ํธ)์ด ๋ชจํธ.
"HTML๋ก"/"์ธํฐ๋ํฐ๋ธ๋ก"/"๋จ์ผ HTML ํ์ผ" ์ธ ๋ณํ ํํ์ด ํธ๋ฆฌ๊ฑฐ์ ํด๋นํ๋์ง ๋ชจํธ. ์์ด ํธ๋ฆฌ๊ฑฐ ๋ฏธ์ ์. HTML ๋ชจ๋ ํ์ฑํ ์ 4b ์ฑํ ์์ฝ์ ".md" ํ๊ธฐ๊ฐ ๋ถ์ ํํจ.
์ฌ์ฉ์ ์์ฒญ N=2๋ ๋น๊ถ์ฅ์ด์ง๋ง 1๋ช ์คํจ ์ ์๋ N=2 fallback์ ํ์ฉ. ๋์ผ N=2 ์ํ์ ๋ํด ๋ค๋ฅธ ์ ์ฑ ์ ์ฉ. N=2์ ์ฌํ์จ ํจ๊ณผ ์์์น ๋ฏธ์ ์.
"๊ฐ์ง๋๋ฉด"์ ๊ตฌ์ฒด์ ๋ฉ์ปค๋์ฆ(API ๋ฉํ๋ฐ์ดํฐ ์กฐํ/๋ชจ๋ธ๋ช ๋งค์นญ/์ฌ์ฉ์ ์ค์ ) ๋ฏธ์ ์. ์ฌ์ฉ์๊ฐ ๋ชจ๋ธ ๋ช ์ ์ ํ ๊ฒฝ์ฐ ์ฒ๋ฆฌ ์ ์ฐจ ๋๋ฝ.
cwd ์ฃผ์ฒด(๋ฉ์ธ/์ฌ์ฉ์ ์ ธ/์๋ธ์์ด์ ํธ), ์๋๊ฒฝ๋ก/~ ์ฒ๋ฆฌ, ์ ๋๊ฒฝ๋ก ์ ๊ทํ๊ฐ ๋ฏธ์ ์. ๋์ผ ์ฌ์ฉ์๊ฐ ๊ฐ์ ๋ฌธ์๋ฅผ ํ์ผ๊ฒฝ๋ก/์ธ๋ผ์ธ์ผ๋ก ์ ๋ ฅ ์ PROJECT_DIR์ด ๋ฌ๋ผ์ ธ ์๋์ ๋ค๋ฅธ ์์น ์ ์ฅ ์ํ.
์๋ธ์์ด์ ํธ๋ ๊ฒฝ๋ก๋ง ๊ฐ์ ํ๋ฉด์ aggregate๋ "๊ฒฝ๋ก ๋๋ ์ ๋ฌธ" ๋ ๋ค ํ์ฉ. ๊ฒฐ์ ๊ท์น์ด ์์ด ํฐ ๋ฌธ์ ์ ํ ํฐ ํ๋ ์ฌ๊ณ ์ํ ์ฌ๋ฐ ๊ฐ๋ฅ.
description๊ณผ ๋ณธ๋ฌธ์ N=3 ํ๋์ฝ๋ฉ, ์ค์ ๋ณ๊ฒฝ์ N ๋ณ๊ฒฝ ๊ฐ๋ฅ. N=5 ์ reviewer-1~5 ์ฌ์ฉ/๋๋ ํ ๋ฆฌ ๋ช ๋ช ์ ์ฐจ๊ฐ ๋ณธ๋ฌธ์ ๋ช ์๋์ง ์์ ํธ๋ฆฌ๊ฑฐ/๋์ ์ ์ ์ผ๊ด์ฑ ๊ฒฐ์ฌ.
SESSION_ID๋ 4์ ๋์๋ก ์ถฉ๋ ๋ฐฉ์งํ๋ฉด์ ์ต์ข ๋ฆฌํฌํธ๋ timestamp๋ง ์ฌ์ฉ. ์๋ํ/๋ฐฐ์น ๋์ ์คํ ์ ์ถฉ๋ ๊ฐ๋ฅ. ์ผ๊ด์ฑ ๊ฒฐ์ฌ.
"raw ๋ณต์ฌ", "raw ๋ด์ฉ", "raw ๋ฆฌ๋ทฐ", "raw_1/2/3"์ ์๋ฏธ ๋ถํ ๋ฏธ์ ์. ์๋ธ์์ด์ ํธ ๊ฐ์ ๋ฉ์ปค๋์ฆ์ด ์์ผ๋ฉด์ ์๋ฐ ์ ์ฒ๋ฆฌ ๋ถ๊ธฐ๊ฐ ์ ์๋์ด ์๊ธฐ๋ชจ์ ๊ตฌ์กฐ.
4a ์ต์ข ๋ฆฌํฌํธ ์ ์ฅ ์์น๋ ์๋ณธ ๋ฌธ์ ๋๋ ํ ๋ฆฌ, 2-8 ๋ถ๊ธฐ๋ .consensus-review-output/ ๋๋ ํ ๋ฆฌ. ์๋ก ๋ค๋ฅธ ์์น์ธ๋ฐ ๊ฐ์ ๋ถ๊ธฐ ์ ์ฉ ์ง์. ๊ฒ์ฆ ๊ธฐ์ค(ํ์ผ ๊ฒฝ๋ก/๋ฐ์ดํธ/์๋ฌ ์ฝ๋)๋ ๋ฏธ์ ์.
1๋ช ๋ง ์ง์ . ํ๊ฐ ๊ฐ๋ฅ์ฑ์ด ์๋์ ์ผ๋ก ํผ.