Datasets:
tag string | model string | subject string | qidx int64 | gold string | ts timestamp[s] | extracted string | correct bool | invalid bool | raw_output string | thinking string | extraction_rule string | latency_s float64 | retries int64 | error null | done_reason string | eval_tokens int64 | prompt_tokens int64 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
deepseek-r1-8b | deepseek-r1:8b | engineering_math | 0 | A | 2026-07-11T19:19:10 | null | false | true |
首先，題目給定兩個向量 u = [1, 1, 2]ᵀ 和 v = [2, -1, 1]ᵀ。我需要檢查哪個選項是錯誤的。
選項 A: 兩向量的外積為 [-3, -3, 3]ᵀ
外積（cross product）對於三維向量計算，公式是：
u × v = |i j k|
|1 1 2 |
|2 -1 1 |
所以， i 分量： (1 * 1) - (2 * (-1)) = 1 + 2 = 3
j 分量： -( (1 * 1) - (2 * 2) ) = -(1 - 4) = -(-3) = 3？ 等等，我算錯了。
標準外積公式：
i( u_y v_z ... | invalid | 73.844 | 0 | null | length | 8,192 | 163 | |
deepseek-r1-8b | deepseek-r1:8b | engineering_math | 1 | C | 2026-07-11T19:20:24 | C | true | false |
C |
首先，題目給出了 X 和 Y 的聯合機率密度函數：
\[ f_{X,Y}(x,y) = \begin{cases}
2, & 0 \leq y \leq x \leq 1 \\
0, & \text{其他}
\end{cases} \]
我需要檢查哪個選項是錯誤的。選項 A、B、C、D 中，只有一個是錯的。
回想一下，聯合密度函數必須積分到 1（在整個區域上）。給定的區域是 \(0 \leq y \leq x \leq 1\)，這是一個三角形區域，在 xy 平面上從 (0,0) 到 (1,0) 和 (1,1)，但只限於 y ≤ x。
為了驗證聯合密度函數是否正確，我應該檢查它的積分是否等於 1。
計算雙重積分：
\[... | single_letter | 37.579 | 0 | null | stop | 4,172 | 312 |
deepseek-r1-8b | deepseek-r1:8b | engineering_math | 2 | C | 2026-07-11T19:21:02 | C | true | false |
C |
嗯，我现在得仔细看看这个问题。题目是用拉普拉斯变换解一个二阶微分方程y'' + 5y' +6y = 2δ(t-1)，初始条件y(0)=0, y'(0)=0。然后问t>1时哪个选项正确。首先，我需要回忆一下如何用拉普拉斯变换解决带有冲激函数的微分方程。
这个方程右边是2δ(t-1)，也就是单位冲激函数乘以2，在t=1的时候有一个突变。初始条件都是0。那么，拉普拉斯变换应该把这个问题转化为s域中的代数问题。首先，写出原方程两边的拉普拉斯变换形式。假设y(t)的拉普拉斯变换是Y(s)，根据微分性质：
L{ y''(t) } = s²Y(s) - sy(0) - y'(0)
L{ y'(t) } = sY(s) - y(0)
所以左... | single_letter | 20.562 | 0 | null | stop | 2,173 | 235 |
deepseek-r1-8b | deepseek-r1:8b | engineering_math | 3 | B | 2026-07-11T19:21:22 | A | false | false |
首先，問題是關於計算矩陣 A 的指數矩陣 e^A 的像空間（image space）的維度。給定的矩陣 A 是：
\[ A = \begin{pmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 0 \end{pmatrix} \]
我需要找到 e^A 的像空間維度，並從選項 A、B、C、D 中選擇正確答案。選項是 1,3,4,2。
回想一下，矩陣的指數定義為：
\[ e^A = I + A + \frac{A^2}{2!} + \frac{A^3}{3!} + \cdots \]
其中 I 是單位矩陣。對於這個 3x3 矩陣 A，它是一個分塊對角矩陣，左上角是 2x2 的單位矩陣（或幾乎... | thinking_standalone_unique | 71.891 | 0 | null | length | 8,192 | 144 | |
deepseek-r1-8b | deepseek-r1:8b | engineering_math | 4 | D | 2026-07-11T19:22:34 | D | true | false |
首先，问题是求极限：\( \lim_{x \to 11} \frac{\sqrt{x} - \sqrt{11}}{x^2 - 121} \)。选项是 A、B、C、D。
我注意到当 x 趋近于 11 时，分子 \( \sqrt{x} - \sqrt{11} \) 趋近于 0（因为平方根函数在 x=11 处连续），分母 \( x^2 - 121 \) 也趋近于 0（因为它是 (x-11)(x+11)，所以当 x=11 时，分子和分母都为零）。这是一个不定式的形式：\( \frac{0}{0} \)，所以我应该使用洛必达法则或简化表达式。
让我试着简化这个表达式。分子是 \( \sqrt{x} - \sqrt{11} \)，分母是 ... | thinking_standalone_last | 73.157 | 1 | null | length | 8,192 | 151 | |
deepseek-r1-8b | deepseek-r1:8b | engineering_math | 5 | A | 2026-07-11T19:24:07 | D | false | false |
首先，問題是判斷哪個矩陣不可對角化。對角化的意思是矩陣可以被變換成一個對角矩陣的形式，通過找到它的一組完整特徵向量基。
在線性代數中，一個方陣如果可對角化，則需要有一組完整的線性無關的特徵向量來對角化它。這意味著矩陣必須有足夠多的線性無關特徵向量。
對於 2x2 矩陣，如果它是可對角化的，那麼它的兩個特徵值（可能重複）應該能對應到兩組線性無關的特徵向量。或者更精確地說，矩陣的秩等於其非零特徵值的數目，但這裡是考慮可對角化。
實際上，一個 2x2 矩陣不可對角化的條件通常是當它不是 diagonalizable 的，這發生在以下情況：如果矩陣有重複特徵值，但特徵向量不足兩條線性無關的特徵向量。換句話說，對於重複特徵值，幾何重數... | thinking_standalone_last | 73.531 | 0 | null | length | 8,192 | 182 | |
deepseek-r1-8b | deepseek-r1:8b | engineering_math | 6 | B | 2026-07-11T19:25:21 | B | true | false |
B |
首先，問題是給定原函數 \( f(t) = A e^{-t} \cos(2t) + B e^{-t} \sin(2t) \)，對應的拉普拉斯轉換為 \( F(s) = \frac{2s + 5}{s^2 + a s + b} \)，我需要找到 a/b 的值，選項是 A.0.1, B.0.4, C.2, D.1。
我知道拉普拉斯轉換可以將三角函數和指數函數的組合轉換為複數分式的形態。所以，我應該回想一下標準拉普拉斯轉換公式。
對於 \( e^{-at} \cos(bt) \)，其拉普拉斯轉換是 \( \frac{s+a}{(s+a)^2 + b^2} \)。
對於 \( e^{-at} \sin(bt) \)，其拉普拉斯轉換是... | single_letter | 70.844 | 0 | null | stop | 7,930 | 164 |
deepseek-r1-8b | deepseek-r1:8b | engineering_math | 7 | C | 2026-07-11T19:26:31 | A | false | false |
首先，問題是關於矩陣 A 的轉置乘以 A 的秩。給定的矩陣 A 是：
\[ A = \left[ \begin{array}{cccc} 1 & 0 & 1 & 1 \\ 2 & 0 & 2 & 2 \\ 0 & 1 & 0 & 3 \end{array} \right] \]
A 是一個 3 行 4 列的矩陣。因為 A^T A 的結果應該是一個方陣（轉置後是 4x3，乘以 A 時得到 4x4 矩陣），所以我需要計算 A^T A。
先找到 A 的轉置 A^T。A 是：
第一行：1, 0, 1, 1
第二行：2, 0, 2, 2
第三行：0, 1, 0, 3
所以，A^T 应该是：
\[ A^T = \left[ \... | thinking_standalone_unique | 73.328 | 0 | null | length | 8,192 | 150 | |
deepseek-r1-8b | deepseek-r1:8b | engineering_math | 8 | B | 2026-07-11T19:27:45 | A | false | false |
首先，題目給定了機率質量函數（PMF）：
\[ P_X(x) = \begin{cases}
\frac{1}{4}, & x = 0 \\
\frac{1}{2}, & x = 1 \\
\frac{1}{4}, & x = 2 \\
0, & \text{其他}
\end{cases} \]
我需要找到期望值 a 和變異數 b，並從選項中選擇正確的。
期望值 E(X) 是隨機變量 X 的平均值，計算公式是：
\[ E(X) = \sum x P_X(x) \]
所以，這裡有三個點：x=0,1,2。每個都有對應的概率。
計算 a（期望值）：
\[ a = E(... | thinking_standalone_last | 74.281 | 0 | null | length | 8,192 | 198 | |
deepseek-r1-8b | deepseek-r1:8b | engineering_math | 9 | A | 2026-07-11T19:28:59 | A | true | false |
A |
首先，問題是關於矩陣的秩。給定一個 m × n 矩陣 A，以及它的轉置 A^T。它說 η₁, η₂, ..., η_t 是齊次方程組 A^T x = 0 的基礎解系。
我需要回想一下什麼是基礎解系。對於線性方程組，如果係數矩陣的秩等於未知數的個數，那麼方程組有唯一解；否則，如果有自由變量，則有多重解，基礎解系中的向量數 t 就是自由變量的個數。
這裡的方程組是 A^T x = 0。A^T 是一個 n × m 矩陣，因為如果 A 是 m × n 的話，轉置後就是 n 列和 m 行。
所以，對於方程組 A^T x = 0：
- 係數矩陣是 A^T，它有 n 列（對應變數的個數）和 m 行（對應方程式數）。
在線性代數中，對於... | single_letter | 41.266 | 0 | null | stop | 4,706 | 195 |
End of preview. Expand in Data Studio
TMMLU+ Local LLM Arena — 本機開源模型評測結果
在單張 RTX 4090 上以 Ollama 對 5 個開源模型（6 個受測 configuration，Qwen3 另分 thinking on/off 兩組）跑 ikala/tmmluplus （台灣版 MMLU）的 zero-shot 四選一評測結果。原始碼與完整報告：https://github.com/tun0000/tmmluplus-local-arena
排行榜
| 模型 | 正確率 % | 無效輸出 % | 平均延遲 s |
|---|---|---|---|
| Qwen3 8B (think) | 69.8 | 2.4 | 19.0 |
| DeepSeek-R1 8B (think) | 57.4 | 1.6 | 20.8 |
| Qwen3 8B (no-think) | 55.0 | 0.0 | 2.4 |
| Gemma 3 12B | 53.8 | 0.0 | 2.7 |
| GLM-4 9B | 48.2 | 0.0 | 2.4 |
| Llama 3.1 8B | 41.6 | 0.0 | 2.5 |
完整各科分數見 summary/per_subject_accuracy.csv 與 REPORT.md。
方法
- 題目：TMMLU+ 10 科（工程數學（engineering_math）、計算機科學（computer_science）、基礎醫學（basic_medical_science）、藥理學（pharmacology）、法學大意（general_principles_of_law）、國文（chinese_language_and_literature）、音樂（music）、閩南語（taiwanese_hokkien）、台灣地理（geography_of_taiwan）、台灣趣味問答（ttqav2）），每科取 test split 前 50 題（deterministic）。
- Prompt（zero-shot、單一 user turn、無 system message）：
以下是一題單選題，請從 A、B、C、D 中選出唯一正確的答案。
只輸出一個字母（A、B、C 或 D），不要輸出任何其他文字或解釋。
題目：{question}
A. {A}
B. {B}
C. {C}
D. {D}
答案：
- 解碼：seed 42；temperature 0.0（deepseek-r1 依官方建議 0.6，greedy 會 repetition loop）。
- 答案抽取：先剝
<think>/thinking欄位 → 全形正規化 → 單字母/關鍵詞（答案是X）/開頭字母/ 獨立字母掃描/選項原文比對 依序 fallback；全失敗記 invalid（計為答錯），原始輸出完整保留。 - 逾時：非思考組 120–180s、思考組 600s，每題失敗重試一次；仍失敗計為答錯。
受測模型
| 受測者 | Ollama 模型 | 參數量 | 量化 | thinking | num_predict | temperature |
|---|---|---|---|---|---|---|
| Qwen3 8B (no-think) | qwen3:8b |
8.2B | Q4_K_M | off | 64 | 0.0 |
| Llama 3.1 8B | llama3.1:8b |
8.0B | Q4_K_M | — | 64 | 0.0 |
| GLM-4 9B | glm4:9b |
9.4B | Q4_0 | — | 64 | 0.0 |
| Gemma 3 12B | gemma3:12b |
12.2B | Q4_K_M | — | 64 | 0.0 |
| Qwen3 8B (think) | qwen3:8b |
8.2B | Q4_K_M | on | 8192 | 0.0 |
| DeepSeek-R1 8B (think) | deepseek-r1:8b |
8.2B | Q4_K_M | on | 8192 | 0.6 |
硬體
NVIDIA RTX 4090 24GB（driver 591.86）、Ollama 0.31.2、Windows 11，模型逐一評測（單卡不並行）。
檔案
raw/*.jsonl— 逐題紀錄（prompt 對象、原始輸出、思考鏈、抽取規則、延遲、token 數）summary/*.csv— 排行榜與各科正確率figs/*.png、REPORT.md— 圖表與分析報告meta/*.json— 各模型的量化/參數量/context length（取自 ollama show）
免責聲明
單卡 zero-shot、每科僅 50 題的小樣本、Q4 量化權重之評測，僅供參考，非官方成績， 不可與 TMMLU+ 官方 leaderboard（完整題目、不同 prompt/shot 設定）直接比較。
- Downloads last month
- 34