{
  "best_global_step": null,
  "best_metric": null,
  "best_model_checkpoint": null,
  "epoch": 4.0,
  "eval_steps": 28,
  "global_step": 144,
  "is_hyper_param_search": false,
  "is_local_process_zero": true,
  "is_world_process_zero": true,
  "log_history": [
    {
      "epoch": 0.027777777777777776,
      "grad_norm": 0.8505679965019226,
      "learning_rate": 0.0,
      "loss": 1.7509765625,
      "step": 1
    },
    {
      "epoch": 0.05555555555555555,
      "grad_norm": 0.7408677935600281,
      "learning_rate": 8.75e-06,
      "loss": 1.6552734375,
      "step": 2
    },
    {
      "epoch": 0.08333333333333333,
      "grad_norm": 1.7587635517120361,
      "learning_rate": 1.75e-05,
      "loss": 1.7119140625,
      "step": 3
    },
    {
      "epoch": 0.1111111111111111,
      "grad_norm": 0.5964386463165283,
      "learning_rate": 2.6249999999999998e-05,
      "loss": 1.595703125,
      "step": 4
    },
    {
      "epoch": 0.1388888888888889,
      "grad_norm": 11.872848510742188,
      "learning_rate": 3.5e-05,
      "loss": 1.61328125,
      "step": 5
    },
    {
      "epoch": 0.16666666666666666,
      "grad_norm": 0.32851940393447876,
      "learning_rate": 4.374999999999999e-05,
      "loss": 1.4404296875,
      "step": 6
    },
    {
      "epoch": 0.19444444444444445,
      "grad_norm": 0.26875439286231995,
      "learning_rate": 5.2499999999999995e-05,
      "loss": 1.4609375,
      "step": 7
    },
    {
      "epoch": 0.2222222222222222,
      "grad_norm": 0.33387747406959534,
      "learning_rate": 6.125e-05,
      "loss": 1.4833984375,
      "step": 8
    },
    {
      "epoch": 0.25,
      "grad_norm": 0.4075395166873932,
      "learning_rate": 7e-05,
      "loss": 1.435546875,
      "step": 9
    },
    {
      "epoch": 0.2777777777777778,
      "grad_norm": 7.596647262573242,
      "learning_rate": 6.999159605551656e-05,
      "loss": 1.3076171875,
      "step": 10
    },
    {
      "epoch": 0.3055555555555556,
      "grad_norm": 3.150001049041748,
      "learning_rate": 6.996638870627473e-05,
      "loss": 1.326171875,
      "step": 11
    },
    {
      "epoch": 0.3333333333333333,
      "grad_norm": 0.27073919773101807,
      "learning_rate": 6.992439140250707e-05,
      "loss": 1.3818359375,
      "step": 12
    },
    {
      "epoch": 0.3611111111111111,
      "grad_norm": 0.5297170281410217,
      "learning_rate": 6.986562655329358e-05,
      "loss": 1.177734375,
      "step": 13
    },
    {
      "epoch": 0.3888888888888889,
      "grad_norm": 0.1722763627767563,
      "learning_rate": 6.979012551460441e-05,
      "loss": 1.3681640625,
      "step": 14
    },
    {
      "epoch": 0.4166666666666667,
      "grad_norm": 0.13102604448795319,
      "learning_rate": 6.969792857256896e-05,
      "loss": 1.359375,
      "step": 15
    },
    {
      "epoch": 0.4444444444444444,
      "grad_norm": 0.1327352374792099,
      "learning_rate": 6.958908492197973e-05,
      "loss": 1.345703125,
      "step": 16
    },
    {
      "epoch": 0.4722222222222222,
      "grad_norm": 0.7929423451423645,
      "learning_rate": 6.94636526400429e-05,
      "loss": 1.271484375,
      "step": 17
    },
    {
      "epoch": 0.5,
      "grad_norm": 0.11846493929624557,
      "learning_rate": 6.932169865538918e-05,
      "loss": 1.27734375,
      "step": 18
    },
    {
      "epoch": 0.5277777777777778,
      "grad_norm": 0.12338215112686157,
      "learning_rate": 6.916329871236181e-05,
      "loss": 1.24609375,
      "step": 19
    },
    {
      "epoch": 0.5555555555555556,
      "grad_norm": 0.10312606394290924,
      "learning_rate": 6.898853733060065e-05,
      "loss": 1.28515625,
      "step": 20
    },
    {
      "epoch": 0.5833333333333334,
      "grad_norm": 0.09519752115011215,
      "learning_rate": 6.87975077599438e-05,
      "loss": 1.2685546875,
      "step": 21
    },
    {
      "epoch": 0.6111111111111112,
      "grad_norm": 0.09582765400409698,
      "learning_rate": 6.859031193067101e-05,
      "loss": 1.3134765625,
      "step": 22
    },
    {
      "epoch": 0.6388888888888888,
      "grad_norm": 0.6262438893318176,
      "learning_rate": 6.836706039911541e-05,
      "loss": 1.17236328125,
      "step": 23
    },
    {
      "epoch": 0.6666666666666666,
      "grad_norm": 0.08256218582391739,
      "learning_rate": 6.812787228867237e-05,
      "loss": 1.2109375,
      "step": 24
    },
    {
      "epoch": 0.6944444444444444,
      "grad_norm": 0.08399886637926102,
      "learning_rate": 6.787287522623719e-05,
      "loss": 1.283203125,
      "step": 25
    },
    {
      "epoch": 0.7222222222222222,
      "grad_norm": 0.07862275838851929,
      "learning_rate": 6.760220527410553e-05,
      "loss": 1.2998046875,
      "step": 26
    },
    {
      "epoch": 0.75,
      "grad_norm": 0.07677027583122253,
      "learning_rate": 6.731600685737265e-05,
      "loss": 1.3125,
      "step": 27
    },
    {
      "epoch": 0.7777777777777778,
      "grad_norm": 0.07304789125919342,
      "learning_rate": 6.701443268687067e-05,
      "loss": 1.203125,
      "step": 28
    },
    {
      "epoch": 0.8055555555555556,
      "grad_norm": 0.08026411384344101,
      "learning_rate": 6.669764367768447e-05,
      "loss": 1.3125,
      "step": 29
    },
    {
      "epoch": 0.8333333333333334,
      "grad_norm": 0.07211318612098694,
      "learning_rate": 6.636580886328994e-05,
      "loss": 1.2333984375,
      "step": 30
    },
    {
      "epoch": 0.8611111111111112,
      "grad_norm": 0.06873784214258194,
      "learning_rate": 6.601910530536063e-05,
      "loss": 1.26171875,
      "step": 31
    },
    {
      "epoch": 0.8888888888888888,
      "grad_norm": 0.09548357874155045,
      "learning_rate": 6.565771799929039e-05,
      "loss": 1.25390625,
      "step": 32
    },
    {
      "epoch": 0.8888888888888888,
      "eval_loss": 1.2002792358398438,
      "eval_runtime": 1.5689,
      "eval_samples_per_second": 3.824,
      "eval_steps_per_second": 0.637,
      "step": 32
    },
    {
      "epoch": 0.9166666666666666,
      "grad_norm": 4.613369464874268,
      "learning_rate": 6.528183977548284e-05,
      "loss": 1.2177734375,
      "step": 33
    },
    {
      "epoch": 0.9444444444444444,
      "grad_norm": 0.07988057285547256,
      "learning_rate": 6.489167119646023e-05,
      "loss": 1.23974609375,
      "step": 34
    },
    {
      "epoch": 0.9722222222222222,
      "grad_norm": 0.07120335847139359,
      "learning_rate": 6.448742044984651e-05,
      "loss": 1.25,
      "step": 35
    },
    {
      "epoch": 1.0,
      "grad_norm": 0.08870724588632584,
      "learning_rate": 6.406930323728183e-05,
      "loss": 1.2978515625,
      "step": 36
    },
    {
      "epoch": 1.0277777777777777,
      "grad_norm": 0.06752490997314453,
      "learning_rate": 6.363754265932755e-05,
      "loss": 1.3154296875,
      "step": 37
    },
    {
      "epoch": 1.0555555555555556,
      "grad_norm": 0.06855607777833939,
      "learning_rate": 6.31923690964235e-05,
      "loss": 1.2587890625,
      "step": 38
    },
    {
      "epoch": 1.0833333333333333,
      "grad_norm": 0.07859840989112854,
      "learning_rate": 6.273402008596069e-05,
      "loss": 1.255859375,
      "step": 39
    },
    {
      "epoch": 1.1111111111111112,
      "grad_norm": 0.06580944359302521,
      "learning_rate": 6.226274019553516e-05,
      "loss": 1.248046875,
      "step": 40
    },
    {
      "epoch": 1.1388888888888888,
      "grad_norm": 0.3634164333343506,
      "learning_rate": 6.177878089245075e-05,
      "loss": 1.15185546875,
      "step": 41
    },
    {
      "epoch": 1.1666666666666667,
      "grad_norm": 0.06528768688440323,
      "learning_rate": 6.12824004095402e-05,
      "loss": 1.1845703125,
      "step": 42
    },
    {
      "epoch": 1.1944444444444444,
      "grad_norm": 0.06654899567365646,
      "learning_rate": 6.077386360737624e-05,
      "loss": 1.21826171875,
      "step": 43
    },
    {
      "epoch": 1.2222222222222223,
      "grad_norm": 0.06648817658424377,
      "learning_rate": 6.02534418329464e-05,
      "loss": 1.2626953125,
      "step": 44
    },
    {
      "epoch": 1.25,
      "grad_norm": 0.06981498748064041,
      "learning_rate": 5.9721412774866547e-05,
      "loss": 1.2353515625,
      "step": 45
    },
    {
      "epoch": 1.2777777777777777,
      "grad_norm": 4.844703674316406,
      "learning_rate": 5.917806031521084e-05,
      "loss": 1.3388671875,
      "step": 46
    },
    {
      "epoch": 1.3055555555555556,
      "grad_norm": 2.652216911315918,
      "learning_rate": 5.862367437803677e-05,
      "loss": 1.1845703125,
      "step": 47
    },
    {
      "epoch": 1.3333333333333333,
      "grad_norm": 0.07009942084550858,
      "learning_rate": 5.80585507746865e-05,
      "loss": 1.2216796875,
      "step": 48
    },
    {
      "epoch": 1.3611111111111112,
      "grad_norm": 1.2577089071273804,
      "learning_rate": 5.748299104594657e-05,
      "loss": 1.072265625,
      "step": 49
    },
    {
      "epoch": 1.3888888888888888,
      "grad_norm": 0.06830814480781555,
      "learning_rate": 5.689730230115081e-05,
      "loss": 1.224609375,
      "step": 50
    },
    {
      "epoch": 1.4166666666666667,
      "grad_norm": 0.0659705251455307,
      "learning_rate": 5.630179705431164e-05,
      "loss": 1.224609375,
      "step": 51
    },
    {
      "epoch": 1.4444444444444444,
      "grad_norm": 0.0652686133980751,
      "learning_rate": 5.569679305736773e-05,
      "loss": 1.2177734375,
      "step": 52
    },
    {
      "epoch": 1.4722222222222223,
      "grad_norm": 0.2055620402097702,
      "learning_rate": 5.50826131306367e-05,
      "loss": 1.1474609375,
      "step": 53
    },
    {
      "epoch": 1.5,
      "grad_norm": 0.06958422064781189,
      "learning_rate": 5.445958499056346e-05,
      "loss": 1.1708984375,
      "step": 54
    },
    {
      "epoch": 1.5277777777777777,
      "grad_norm": 0.730921745300293,
      "learning_rate": 5.382804107485597e-05,
      "loss": 1.15966796875,
      "step": 55
    },
    {
      "epoch": 1.5555555555555556,
      "grad_norm": 0.06546342372894287,
      "learning_rate": 5.318831836510196e-05,
      "loss": 1.1865234375,
      "step": 56
    },
    {
      "epoch": 1.5833333333333335,
      "grad_norm": 0.06452391296625137,
      "learning_rate": 5.2540758206960956e-05,
      "loss": 1.17431640625,
      "step": 57
    },
    {
      "epoch": 1.6111111111111112,
      "grad_norm": 0.0706632137298584,
      "learning_rate": 5.188570612802778e-05,
      "loss": 1.2177734375,
      "step": 58
    },
    {
      "epoch": 1.6388888888888888,
      "grad_norm": 1.1040443181991577,
      "learning_rate": 5.122351165346468e-05,
      "loss": 1.1083984375,
      "step": 59
    },
    {
      "epoch": 1.6666666666666665,
      "grad_norm": 0.06786315143108368,
      "learning_rate": 5.0554528119500325e-05,
      "loss": 1.1298828125,
      "step": 60
    },
    {
      "epoch": 1.6666666666666665,
      "eval_loss": 1.1602020263671875,
      "eval_runtime": 0.8909,
      "eval_samples_per_second": 6.735,
      "eval_steps_per_second": 1.123,
      "step": 60
    },
    {
      "epoch": 1.6944444444444444,
      "grad_norm": 0.06793159246444702,
      "learning_rate": 4.987911248489532e-05,
      "loss": 1.1982421875,
      "step": 61
    },
    {
      "epoch": 1.7222222222222223,
      "grad_norm": 0.06310486048460007,
      "learning_rate": 4.9197625140474824e-05,
      "loss": 1.21875,
      "step": 62
    },
    {
      "epoch": 1.75,
      "grad_norm": 0.06628380715847015,
      "learning_rate": 4.85104297168299e-05,
      "loss": 1.234375,
      "step": 63
    },
    {
      "epoch": 1.7777777777777777,
      "grad_norm": 0.06446143984794617,
      "learning_rate": 4.781789289029002e-05,
      "loss": 1.1357421875,
      "step": 64
    },
    {
      "epoch": 1.8055555555555556,
      "grad_norm": 0.06604783236980438,
      "learning_rate": 4.7120384187270616e-05,
      "loss": 1.2373046875,
      "step": 65
    },
    {
      "epoch": 1.8333333333333335,
      "grad_norm": 0.06179811432957649,
      "learning_rate": 4.641827578709973e-05,
      "loss": 1.1669921875,
      "step": 66
    },
    {
      "epoch": 1.8611111111111112,
      "grad_norm": 0.06578114628791809,
      "learning_rate": 4.571194232342922e-05,
      "loss": 1.19580078125,
      "step": 67
    },
    {
      "epoch": 1.8888888888888888,
      "grad_norm": 0.10102686285972595,
      "learning_rate": 4.500176068433624e-05,
      "loss": 1.1884765625,
      "step": 68
    },
    {
      "epoch": 1.9166666666666665,
      "grad_norm": 1.1496586799621582,
      "learning_rate": 4.4288109811221965e-05,
      "loss": 1.1767578125,
      "step": 69
    },
    {
      "epoch": 1.9444444444444444,
      "grad_norm": 0.06807931512594223,
      "learning_rate": 4.35713704966145e-05,
      "loss": 1.1767578125,
      "step": 70
    },
    {
      "epoch": 1.9722222222222223,
      "grad_norm": 0.06590830534696579,
      "learning_rate": 4.285192518098429e-05,
      "loss": 1.19189453125,
      "step": 71
    },
    {
      "epoch": 2.0,
      "grad_norm": 0.08896816521883011,
      "learning_rate": 4.2130157748679975e-05,
      "loss": 1.21826171875,
      "step": 72
    },
    {
      "epoch": 2.0277777777777777,
      "grad_norm": 0.0636194720864296,
      "learning_rate": 4.140645332309401e-05,
      "loss": 1.2421875,
      "step": 73
    },
    {
      "epoch": 2.0555555555555554,
      "grad_norm": 0.06637746095657349,
      "learning_rate": 4.068119806116704e-05,
      "loss": 1.2021484375,
      "step": 74
    },
    {
      "epoch": 2.0833333333333335,
      "grad_norm": 0.07494442164897919,
      "learning_rate": 3.99547789473408e-05,
      "loss": 1.201171875,
      "step": 75
    },
    {
      "epoch": 2.111111111111111,
      "grad_norm": 0.06645801663398743,
      "learning_rate": 3.9227583587069534e-05,
      "loss": 1.1953125,
      "step": 76
    },
    {
      "epoch": 2.138888888888889,
      "grad_norm": 0.19984902441501617,
      "learning_rate": 3.85e-05,
      "loss": 1.10302734375,
      "step": 77
    },
    {
      "epoch": 2.1666666666666665,
      "grad_norm": 0.0681057795882225,
      "learning_rate": 3.777241641293047e-05,
      "loss": 1.1357421875,
      "step": 78
    },
    {
      "epoch": 2.1944444444444446,
      "grad_norm": 0.06939252465963364,
      "learning_rate": 3.7045221052659205e-05,
      "loss": 1.1708984375,
      "step": 79
    },
    {
      "epoch": 2.2222222222222223,
      "grad_norm": 0.06689626723527908,
      "learning_rate": 3.631880193883297e-05,
      "loss": 1.2158203125,
      "step": 80
    },
    {
      "epoch": 2.25,
      "grad_norm": 0.0688929408788681,
      "learning_rate": 3.559354667690599e-05,
      "loss": 1.1865234375,
      "step": 81
    },
    {
      "epoch": 2.2777777777777777,
      "grad_norm": 0.7510942816734314,
      "learning_rate": 3.4869842251320026e-05,
      "loss": 1.0908203125,
      "step": 82
    },
    {
      "epoch": 2.3055555555555554,
      "grad_norm": 0.06927806884050369,
      "learning_rate": 3.4148074819015714e-05,
      "loss": 1.10009765625,
      "step": 83
    },
    {
      "epoch": 2.3333333333333335,
      "grad_norm": 0.06501583009958267,
      "learning_rate": 3.3428629503385494e-05,
      "loss": 1.1787109375,
      "step": 84
    },
    {
      "epoch": 2.361111111111111,
      "grad_norm": 0.7002145648002625,
      "learning_rate": 3.271189018877803e-05,
      "loss": 1.025390625,
      "step": 85
    },
    {
      "epoch": 2.388888888888889,
      "grad_norm": 0.06788232922554016,
      "learning_rate": 3.199823931566375e-05,
      "loss": 1.1826171875,
      "step": 86
    },
    {
      "epoch": 2.4166666666666665,
      "grad_norm": 0.06879115849733353,
      "learning_rate": 3.1288057676570784e-05,
      "loss": 1.181640625,
      "step": 87
    },
    {
      "epoch": 2.4444444444444446,
      "grad_norm": 0.06458860635757446,
      "learning_rate": 3.058172421290026e-05,
      "loss": 1.177734375,
      "step": 88
    },
    {
      "epoch": 2.4444444444444446,
      "eval_loss": 1.140655517578125,
      "eval_runtime": 0.8994,
      "eval_samples_per_second": 6.671,
      "eval_steps_per_second": 1.112,
      "step": 88
    },
    {
      "epoch": 2.4722222222222223,
      "grad_norm": 1.2705179452896118,
      "learning_rate": 2.9879615812729392e-05,
      "loss": 1.11474609375,
      "step": 89
    },
    {
      "epoch": 2.5,
      "grad_norm": 0.07174636423587799,
      "learning_rate": 2.9182107109709983e-05,
      "loss": 1.1328125,
      "step": 90
    },
    {
      "epoch": 2.5277777777777777,
      "grad_norm": 0.7788509726524353,
      "learning_rate": 2.8489570283170098e-05,
      "loss": 1.13916015625,
      "step": 91
    },
    {
      "epoch": 2.5555555555555554,
      "grad_norm": 0.06872633099555969,
      "learning_rate": 2.7802374859525168e-05,
      "loss": 1.150390625,
      "step": 92
    },
    {
      "epoch": 2.5833333333333335,
      "grad_norm": 0.06449750810861588,
      "learning_rate": 2.7120887515104683e-05,
      "loss": 1.13818359375,
      "step": 93
    },
    {
      "epoch": 2.611111111111111,
      "grad_norm": 0.07166548818349838,
      "learning_rate": 2.644547188049967e-05,
      "loss": 1.1845703125,
      "step": 94
    },
    {
      "epoch": 2.638888888888889,
      "grad_norm": 0.06823424249887466,
      "learning_rate": 2.577648834653531e-05,
      "loss": 1.068359375,
      "step": 95
    },
    {
      "epoch": 2.6666666666666665,
      "grad_norm": 0.06741581112146378,
      "learning_rate": 2.511429387197222e-05,
      "loss": 1.09814453125,
      "step": 96
    },
    {
      "epoch": 2.6944444444444446,
      "grad_norm": 0.07048262655735016,
      "learning_rate": 2.4459241793039046e-05,
      "loss": 1.166015625,
      "step": 97
    },
    {
      "epoch": 2.7222222222222223,
      "grad_norm": 0.07080551981925964,
      "learning_rate": 2.381168163489803e-05,
      "loss": 1.1845703125,
      "step": 98
    },
    {
      "epoch": 2.75,
      "grad_norm": 0.06724430620670319,
      "learning_rate": 2.3171958925144028e-05,
      "loss": 1.2041015625,
      "step": 99
    },
    {
      "epoch": 2.7777777777777777,
      "grad_norm": 0.0681443065404892,
      "learning_rate": 2.2540415009436543e-05,
      "loss": 1.1044921875,
      "step": 100
    },
    {
      "epoch": 2.8055555555555554,
      "grad_norm": 0.07118666172027588,
      "learning_rate": 2.191738686936329e-05,
      "loss": 1.2060546875,
      "step": 101
    },
    {
      "epoch": 2.8333333333333335,
      "grad_norm": 0.06790719926357269,
      "learning_rate": 2.130320694263227e-05,
      "loss": 1.13671875,
      "step": 102
    },
    {
      "epoch": 2.861111111111111,
      "grad_norm": 0.06724390387535095,
      "learning_rate": 2.0698202945688355e-05,
      "loss": 1.1650390625,
      "step": 103
    },
    {
      "epoch": 2.888888888888889,
      "grad_norm": 0.06926334649324417,
      "learning_rate": 2.010269769884919e-05,
      "loss": 1.1572265625,
      "step": 104
    },
    {
      "epoch": 2.9166666666666665,
      "grad_norm": 3.3815906047821045,
      "learning_rate": 1.9517008954053427e-05,
      "loss": 1.189453125,
      "step": 105
    },
    {
      "epoch": 2.9444444444444446,
      "grad_norm": 0.07985101640224457,
      "learning_rate": 1.8941449225313504e-05,
      "loss": 1.1484375,
      "step": 106
    },
    {
      "epoch": 2.9722222222222223,
      "grad_norm": 0.06823958456516266,
      "learning_rate": 1.8376325621963226e-05,
      "loss": 1.16455078125,
      "step": 107
    },
    {
      "epoch": 3.0,
      "grad_norm": 0.10641886293888092,
      "learning_rate": 1.782193968478916e-05,
      "loss": 1.1767578125,
      "step": 108
    },
    {
      "epoch": 3.0277777777777777,
      "grad_norm": 0.06663081049919128,
      "learning_rate": 1.7278587225133448e-05,
      "loss": 1.212890625,
      "step": 109
    },
    {
      "epoch": 3.0555555555555554,
      "grad_norm": 0.07035631686449051,
      "learning_rate": 1.6746558167053595e-05,
      "loss": 1.1767578125,
      "step": 110
    },
    {
      "epoch": 3.0833333333333335,
      "grad_norm": 0.08018483221530914,
      "learning_rate": 1.6226136392623754e-05,
      "loss": 1.17578125,
      "step": 111
    },
    {
      "epoch": 3.111111111111111,
      "grad_norm": 0.07884792238473892,
      "learning_rate": 1.5717599590459807e-05,
      "loss": 1.1708984375,
      "step": 112
    },
    {
      "epoch": 3.138888888888889,
      "grad_norm": 0.14516517519950867,
      "learning_rate": 1.5221219107549242e-05,
      "loss": 1.0791015625,
      "step": 113
    },
    {
      "epoch": 3.1666666666666665,
      "grad_norm": 0.06719689816236496,
      "learning_rate": 1.4737259804464835e-05,
      "loss": 1.11474609375,
      "step": 114
    },
    {
      "epoch": 3.1944444444444446,
      "grad_norm": 0.06773306429386139,
      "learning_rate": 1.4265979914039314e-05,
      "loss": 1.1494140625,
      "step": 115
    },
    {
      "epoch": 3.2222222222222223,
      "grad_norm": 0.06927060335874557,
      "learning_rate": 1.3807630903576506e-05,
      "loss": 1.197265625,
      "step": 116
    },
    {
      "epoch": 3.2222222222222223,
      "eval_loss": 1.1367416381835938,
      "eval_runtime": 0.8978,
      "eval_samples_per_second": 6.683,
      "eval_steps_per_second": 1.114,
      "step": 116
    },
    {
      "epoch": 3.25,
      "grad_norm": 0.07567743211984634,
      "learning_rate": 1.3362457340672455e-05,
      "loss": 1.1669921875,
      "step": 117
    },
    {
      "epoch": 3.2777777777777777,
      "grad_norm": 0.06810569763183594,
      "learning_rate": 1.2930696762718172e-05,
      "loss": 1.07080078125,
      "step": 118
    },
    {
      "epoch": 3.3055555555555554,
      "grad_norm": 0.06791315227746964,
      "learning_rate": 1.251257955015348e-05,
      "loss": 1.080078125,
      "step": 119
    },
    {
      "epoch": 3.3333333333333335,
      "grad_norm": 0.06791336834430695,
      "learning_rate": 1.2108328803539764e-05,
      "loss": 1.15966796875,
      "step": 120
    },
    {
      "epoch": 3.361111111111111,
      "grad_norm": 0.5979892611503601,
      "learning_rate": 1.1718160224517158e-05,
      "loss": 1.01025390625,
      "step": 121
    },
    {
      "epoch": 3.388888888888889,
      "grad_norm": 0.06907173991203308,
      "learning_rate": 1.1342282000709606e-05,
      "loss": 1.1640625,
      "step": 122
    },
    {
      "epoch": 3.4166666666666665,
      "grad_norm": 0.06645701825618744,
      "learning_rate": 1.098089469463936e-05,
      "loss": 1.1650390625,
      "step": 123
    },
    {
      "epoch": 3.4444444444444446,
      "grad_norm": 0.06581493467092514,
      "learning_rate": 1.0634191136710062e-05,
      "loss": 1.1611328125,
      "step": 124
    },
    {
      "epoch": 3.4722222222222223,
      "grad_norm": 0.07850374281406403,
      "learning_rate": 1.030235632231554e-05,
      "loss": 1.09228515625,
      "step": 125
    },
    {
      "epoch": 3.5,
      "grad_norm": 0.07088835537433624,
      "learning_rate": 9.985567313129313e-06,
      "loss": 1.11865234375,
      "step": 126
    },
    {
      "epoch": 3.5277777777777777,
      "grad_norm": 0.12280471622943878,
      "learning_rate": 9.683993142627338e-06,
      "loss": 1.10986328125,
      "step": 127
    },
    {
      "epoch": 3.5555555555555554,
      "grad_norm": 0.06870168447494507,
      "learning_rate": 9.397794725894466e-06,
      "loss": 1.1357421875,
      "step": 128
    },
    {
      "epoch": 3.5833333333333335,
      "grad_norm": 0.06480049341917038,
      "learning_rate": 9.127124773762795e-06,
      "loss": 1.12353515625,
      "step": 129
    },
    {
      "epoch": 3.611111111111111,
      "grad_norm": 0.06932772696018219,
      "learning_rate": 8.872127711327618e-06,
      "loss": 1.16943359375,
      "step": 130
    },
    {
      "epoch": 3.638888888888889,
      "grad_norm": 0.06831188499927521,
      "learning_rate": 8.632939600884575e-06,
      "loss": 1.0546875,
      "step": 131
    },
    {
      "epoch": 3.6666666666666665,
      "grad_norm": 0.06606719642877579,
      "learning_rate": 8.40968806932898e-06,
      "loss": 1.0849609375,
      "step": 132
    },
    {
      "epoch": 3.6944444444444446,
      "grad_norm": 0.06802713871002197,
      "learning_rate": 8.2024922400562e-06,
      "loss": 1.1513671875,
      "step": 133
    },
    {
      "epoch": 3.7222222222222223,
      "grad_norm": 0.0666162371635437,
      "learning_rate": 8.01146266939934e-06,
      "loss": 1.1728515625,
      "step": 134
    },
    {
      "epoch": 3.75,
      "grad_norm": 0.06701572239398956,
      "learning_rate": 7.836701287638174e-06,
      "loss": 1.1904296875,
      "step": 135
    },
    {
      "epoch": 3.7777777777777777,
      "grad_norm": 0.06706999987363815,
      "learning_rate": 7.67830134461082e-06,
      "loss": 1.09423828125,
      "step": 136
    },
    {
      "epoch": 3.8055555555555554,
      "grad_norm": 0.06949374824762344,
      "learning_rate": 7.536347359957093e-06,
      "loss": 1.19091796875,
      "step": 137
    },
    {
      "epoch": 3.8333333333333335,
      "grad_norm": 0.0638498067855835,
      "learning_rate": 7.410915078020264e-06,
      "loss": 1.1259765625,
      "step": 138
    },
    {
      "epoch": 3.861111111111111,
      "grad_norm": 0.06549972295761108,
      "learning_rate": 7.3020714274310395e-06,
      "loss": 1.15283203125,
      "step": 139
    },
    {
      "epoch": 3.888888888888889,
      "grad_norm": 0.06754426658153534,
      "learning_rate": 7.209874485395575e-06,
      "loss": 1.1474609375,
      "step": 140
    },
    {
      "epoch": 3.9166666666666665,
      "grad_norm": 0.07659363746643066,
      "learning_rate": 7.134373446706414e-06,
      "loss": 1.13232421875,
      "step": 141
    },
    {
      "epoch": 3.9444444444444446,
      "grad_norm": 0.06816250830888748,
      "learning_rate": 7.075608597492917e-06,
      "loss": 1.14013671875,
      "step": 142
    },
    {
      "epoch": 3.9722222222222223,
      "grad_norm": 0.06593791395425797,
      "learning_rate": 7.033611293725269e-06,
      "loss": 1.15576171875,
      "step": 143
    },
    {
      "epoch": 4.0,
      "grad_norm": 0.1083194762468338,
      "learning_rate": 7.008403944483427e-06,
      "loss": 1.1591796875,
      "step": 144
    },
    {
      "epoch": 4.0,
      "eval_loss": 1.1298980712890625,
      "eval_runtime": 0.9002,
      "eval_samples_per_second": 6.665,
      "eval_steps_per_second": 1.111,
      "step": 144
    }
  ],
  "logging_steps": 1.0,
  "max_steps": 144,
  "num_input_tokens_seen": 0,
  "num_train_epochs": 4,
  "save_steps": 0,
  "stateful_callbacks": {
    "TrainerControl": {
      "args": {
        "should_epoch_stop": false,
        "should_evaluate": false,
        "should_log": false,
        "should_save": true,
        "should_training_stop": true
      },
      "attributes": {}
    }
  },
  "total_flos": 3.195424426631889e+18,
  "train_batch_size": 2,
  "trial_name": null,
  "trial_params": null
}