Datasets:

science-of-finetuning
/

diffing-stats-gemma-2-2b-L13-k100-lr1e-04-local-shuffling-CCLoss

Dataset card Data Studio Files Files and versions Community

Split (1)

train · 73.7k rows

latent int64 0 73.7k	tag stringclasses 4 values	dec_norm_diff float64 0.05 0.91	lmsys_ctrl_% float64 0 1 ⌀	lmsys_bos_% float64 0 1 ⌀	lmsys_user_% float64 0 1 ⌀	lmsys_assistant_% float64 0 1 ⌀	lmsys_freq float64 0 0.95	lmsys_ctrl_freq float64 0 0.46	lmsys_non_ctrl_freq float64 0 0.98	dec_cos_sim float64 -0.95 1	enc_cos_sim float64 -0.83 0.97	enc_norm_diff float64 0.24 0.85	dec_base_norm float64 0.14 1.78	dec_instruct_norm float64 0.22 1.92	enc_base_norm float64 0.32 1.74	enc_instruct_norm float64 0.27 1.84	lmsys_assistant_freq float64 0 0.98	lmsys_user_freq float64 0 0.97	lmsys_ctrl_2_freq float64 0 0.66	lmsys_ctrl_3_freq float64 0 0.66	lmsys_ctrl_4_freq float64 0 0.66	lmsys_ctrl_5_freq float64 0 0.66	lmsys_ctrl_8_freq float64 0 1	lmsys_ctrl_9_freq float64 0 1	lmsys_ctrl_10_freq float64 0 1	ctrl_1_% float64	ctrl_2_% float64	ctrl_3_% float64	ctrl_4_% float64	ctrl_5_% float64	ctrl_6_% float64	ctrl_7_% float64	ctrl_8_% float64	ctrl_9_% float64	ctrl_10_% float64	ctrl_mean float64 5.86 155 ⌀	ctrl_max float64 5.86 239 ⌀	non_ctrl_mean float64 5.87 259 ⌀	non_ctrl_max float64 5.87 345 ⌀	bos_mean float64 6.89 1.26k ⌀	bos_max float64 6.89 1.26k ⌀	assistant_mean float64 5.86 285 ⌀	assistant_max float64 5.86 345 ⌀	user_mean float64 5.86 240 ⌀	user_max float64 5.86 340 ⌀	ctrl_1_mean float64 5.86 142 ⌀	ctrl_1_max float64 5.86 142 ⌀	ctrl_2_mean float64 5.86 179 ⌀	ctrl_2_max float64 5.86 196 ⌀	ctrl_3_mean float64 5.86 213 ⌀	ctrl_3_max float64 5.86 228 ⌀	ctrl_4_mean float64 5.86 95.5 ⌀	ctrl_4_max float64 5.86 172 ⌀	ctrl_5_mean float64 5.86 132 ⌀	ctrl_5_max float64 5.86 196 ⌀	ctrl_6_mean float64 5.86 78 ⌀	ctrl_6_max float64 5.86 150 ⌀	ctrl_7_mean float64 5.86 124 ⌀	ctrl_7_max float64 5.86 239 ⌀	ctrl_8_mean float64 5.86 101 ⌀	ctrl_8_max float64 5.86 182 ⌀	ctrl_9_mean float64 5.86 84.3 ⌀	ctrl_9_max float64 5.86 155 ⌀	ctrl_10_mean float64 5.86 80.3 ⌀	ctrl_10_max float64 5.86 160 ⌀	lmsys_non_ctrl_% float64 0 1 ⌀	lmsys_ctrl_1_% float64 0 1 ⌀	lmsys_ctrl_2_% float64 0 1 ⌀	lmsys_ctrl_3_% float64 0 1 ⌀	lmsys_ctrl_4_% float64 0 1 ⌀	lmsys_ctrl_5_% float64 0 1 ⌀	lmsys_ctrl_6_% float64 0 1 ⌀	lmsys_ctrl_7_% float64 0 1 ⌀	lmsys_ctrl_8_% float64 0 1 ⌀	lmsys_ctrl_9_% float64 0 1 ⌀	lmsys_ctrl_10_% float64 0 1 ⌀	beta_error_base float64 -0.33 2.69 ⌀	beta_error_chat float64 0.41 3.83 ⌀	beta_ratio_error float64 -0.35 1.19 ⌀	beta_reconstruction_base float64 -1.82 9.03 ⌀	beta_reconstruction_chat float64 -1.36 10 ⌀	beta_ratio_reconstruction float64 -3.18 2.06 ⌀	beta_activation_base float64 -1.83 4.06 ⌀	beta_activation_chat float64 -1.38 4.94 ⌀	beta_activation_ratio float64 -3.39 1.82 ⌀	max_act_val float64 0 1.26k
73,700	Shared	0.419498	0	0	0.021127	0.978873	0.000028	0	0.000029	0.893533	0.875168	0.496984	0.9537	1.136716	1.035061	1.041343	0.000039	0.000002	0	0	0	0	0	0	0	null	null	null	null	null	null	null	null	null	null	null	null	36.272736	143.07776	null	null	36.63231	143.07776	19.612477	44.183163	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	1	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	143.077759
73,701	Shared	0.46047	0	0	0.37355	0.62645	0.000167	0	0.000177	0.985673	0.790616	0.515142	1.057975	1.148799	0.904684	0.877286	0.00015	0.000248	0	0	0	0	0	0	0	null	null	null	null	null	null	null	null	null	null	null	null	24.530359	76.408195	null	null	24.606048	78.62869	24.403426	76.408195	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	1	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	78.628693
73,702	Shared	0.428927	0.005411	0	0.100986	0.899014	0.000573	0.000057	0.000603	0.928498	0.69506	0.497375	0.968065	1.128474	0.823326	0.82767	0.000733	0.000229	0	0	0	0.000354	0	0	0.000187	null	null	null	null	null	null	null	null	null	null	11.702077	27.041767	20.239444	85.413025	null	null	20.442945	85.413025	18.427809	83.92479	null	null	null	null	null	null	null	null	13.041444	27.041767	null	null	null	null	null	null	null	null	7.683977	9.957654	0.994589	0	0	0	0	0.75	0	0	0	0	0.25	null	null	null	null	null	null	null	null	null	87.222389
73,703	Shared	0.432242	0.002971	0	0.045163	0.954837	0.002543	0.000139	0.002681	0.884524	0.512346	0.513341	0.888347	1.027603	0.8048	0.783327	0.003466	0.000456	0	0.000879	0	0.000088	0.000089	0	0.000187	null	null	null	null	null	null	null	null	null	null	7.734422	25.776237	13.275281	110.133484	null	null	13.471915	110.133484	9.118015	20.871082	null	null	null	null	7.230406	14.027477	null	null	6.744916	7.335771	null	null	null	null	7.243958	7.349347	null	null	12.501902	25.776237	0.997029	0	0	0.769231	0	0.076923	0	0	0.051282	0	0.102564	null	null	null	null	null	null	null	null	null	110.133484
73,704	Shared	0.455895	0	0	0.226277	0.773723	0.00008	0	0.000084	0.963086	0.77378	0.511667	1.107275	1.214396	0.914576	0.893234	0.000088	0.000072	0	0	0	0	0	0	0	null	null	null	null	null	null	null	null	null	null	null	null	34.810809	103.161674	null	null	33.918899	103.161674	37.860565	96.34887	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	1	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	103.161674
73,705	Shared	0.49748	null	null	null	null	0	0	0	0.899347	0.937216	0.49931	1.018389	1.023547	1.016875	1.01828	0	0	0	0	0	0	0	0	0	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	0
73,706	Other	0.392006	0	0	0.968055	0.031945	0.00054	0	0.000571	0.518761	0.61004	0.481573	0.760369	0.969845	0.900003	0.93444	0.000025	0.002079	0	0	0	0	0	0	0	null	null	null	null	null	null	null	null	null	null	null	null	16.266156	70.91536	null	null	12.422132	36.580776	16.393008	70.91536	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	1	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	70.915359
73,707	Shared	0.438876	0	0	0.285956	0.714044	0.000115	0	0.000121	0.938478	0.802619	0.514694	0.771344	0.878772	0.994809	0.965574	0.000117	0.00013	0	0	0	0	0	0	0	null	null	null	null	null	null	null	null	null	null	null	null	16.961947	62.627945	null	null	16.63659	62.627945	17.774375	53.343365	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	1	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	63.483212
73,708	Shared	0.40618	0	0	0.521583	0.478417	0.000054	0	0.000057	0.867483	0.717327	0.471303	0.845259	1.040498	1.007627	1.06898	0.000037	0.000112	0	0	0	0	0	0	0	null	null	null	null	null	null	null	null	null	null	null	null	13.796578	74.59368	null	null	15.864248	74.59368	11.900026	56.29938	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	1	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	74.593681
73,709	Shared	0.449723	0.001294	0	0.49525	0.50475	0.000449	0.000011	0.000474	0.931077	0.719298	0.532501	0.834706	0.928022	0.880626	0.823383	0.000324	0.000884	0	0	0	0.000088	0	0	0	null	null	null	null	null	null	null	null	null	null	6.99039	7.798294	14.103118	57.531284	null	null	13.382609	57.531284	14.837447	70.42174	null	null	null	null	null	null	null	null	6.99039	7.798294	null	null	null	null	null	null	null	null	null	null	0.998706	0	0	0	0	1	0	0	0	0	0	null	null	null	null	null	null	null	null	null	72.650917
73,710	Shared	0.450075	0	0	0.324324	0.675676	0.000007	0	0.000008	0.949896	0.792933	0.52757	0.987876	1.097457	1.139854	1.077002	0.000007	0.000009	0	0	0	0	0	0	0	null	null	null	null	null	null	null	null	null	null	null	null	22.662008	109.71046	null	null	24.268729	73.62908	19.314673	109.71046	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	1	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	128.281097
73,711	Shared	0.478302	null	null	null	null	0	0	0	0.877668	0.916989	0.494917	1.031194	1.077973	1.05646	1.06731	0	0	0	0	0	0	0	0	0	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	0
73,712	Shared	0.466733	0	0	0.206226	0.793774	0.0001	0	0.000105	0.93364	0.703772	0.548299	0.829109	0.888205	0.908328	0.820585	0.000113	0.000082	0	0	0	0	0	0	0	null	null	null	null	null	null	null	null	null	null	null	null	11.293469	66.50509	null	null	11.742121	66.50509	9.566581	33.06934	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	1	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	92.16893
73,713	Shared	0.474037	0.003417	0	0.416361	0.583639	0.000794	0.00005	0.000837	0.934964	0.458013	0.577885	0.908598	0.958362	0.745377	0.629271	0.000661	0.00131	0	0	0.000029	0.000236	0.000045	0	0.000187	null	null	null	null	null	null	null	null	null	null	7.17179	10.910403	10.538254	51.247086	null	null	10.510824	51.247086	10.576703	44.58522	null	null	null	null	null	null	5.879431	5.879431	7.754181	10.910403	null	null	null	null	6.300683	6.300683	null	null	6.547873	7.146436	0.996583	0	0	0	0.071429	0.571429	0	0	0.071429	0	0.285714	null	null	null	null	null	null	null	null	null	78.592796
73,714	Shared	0.527189	0.001876	0	0.294173	0.705827	0.000207	0.000007	0.000218	0.914079	0.490182	0.583844	0.902873	0.853777	0.859967	0.715761	0.000208	0.000241	0	0	0	0.000059	0	0	0	null	null	null	null	null	null	null	null	null	null	6.956986	7.998874	10.15995	49.147556	null	null	10.133629	39.81228	10.223106	49.147556	null	null	null	null	null	null	null	null	6.956986	7.998874	null	null	null	null	null	null	null	null	null	null	0.998124	0	0	0	0	1	0	0	0	0	0	null	null	null	null	null	null	null	null	null	86.861298
73,715	Shared	0.466801	0	0	0.292553	0.707447	0.000036	0	0.000039	0.974849	0.811961	0.513914	1.039173	1.11308	1.084057	1.05389	0.000037	0.000042	0	0	0	0	0	0	0	null	null	null	null	null	null	null	null	null	null	null	null	36.417926	80.86965	null	null	33.628262	88.02232	43.163841	80.86965	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	1	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	88.022324
73,716	Shared	0.455762	0	0	0	1	0.000001	0	0.000001	0.891004	0.898978	0.492413	1.100536	1.207357	1.137851	1.155382	0.000001	0	0	0	0	0	0	0	0	null	null	null	null	null	null	null	null	null	null	null	null	17.770998	24.570753	null	null	17.770998	24.570753	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	1	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	24.570753
73,717	Shared	0.493304	null	null	null	null	0	0	0	0.8703	0.912921	0.496577	1.050273	1.064529	1.074787	1.082196	0	0	0	0	0	0	0	0	0	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	42.363125
73,718	Shared	0.439244	0.000712	0	0.334352	0.665648	0.003808	0.00005	0.004024	0.984001	0.370632	0.55785	0.912075	1.038233	0.709652	0.627546	0.003627	0.005062	0	0	0.000354	0.000059	0	0	0	null	null	null	null	null	null	null	null	null	null	7.974688	14.494617	13.160305	71.83556	null	null	12.886769	68.47516	13.704876	71.83556	null	null	null	null	null	null	7.83323	14.494617	8.823434	10.088827	null	null	null	null	null	null	null	null	null	null	0.999288	0	0	0	0.857143	0.142857	0	0	0	0	0	null	null	null	null	null	null	null	null	null	75.164307
73,719	Shared	0.427915	0	0	0.164835	0.835165	0.000018	0	0.000019	0.929157	0.794632	0.510549	0.961942	1.123988	1.094747	1.071649	0.000021	0.000012	0	0	0	0	0	0	0	null	null	null	null	null	null	null	null	null	null	null	null	25.271067	111.65691	null	null	23.417962	111.65691	34.660133	102.13941	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	1	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	116.690521
73,720	Shared	0.507892	0.003127	0	0.31784	0.68216	0.004399	0.000253	0.004637	0.957209	0.494401	0.621208	0.941974	0.927106	0.727801	0.55137	0.004283	0.005545	0	0	0.000118	0.001445	0.000179	0	0.000656	null	null	null	null	null	null	null	null	null	null	7.480954	14.306582	9.860763	49.14324	null	null	10.020978	48.18978	9.516904	49.14324	null	null	null	null	null	null	6.117734	6.358821	7.626804	14.306582	null	null	null	null	7.235803	8.325009	null	null	7.430013	10.101643	0.996873	0	0	0	0.056338	0.690141	0	0	0.056338	0	0.197183	null	null	null	null	null	null	null	null	null	66.477486
73,721	Shared	0.539853	0.025318	0	0.153218	0.846782	0.004531	0.002113	0.004669	0.835222	0.299756	0.587572	0.93886	0.864027	0.724401	0.597526	0.005353	0.002692	0.001377	0.003046	0.000029	0.003333	0.002948	0	0.012223	null	null	null	null	null	null	null	null	null	null	7.756609	14.304564	11.642942	50.83871	null	null	12.017651	50.83871	9.572061	39.520073	null	null	6.895814	10.100117	7.747301	11.681125	7.660528	7.660528	7.632895	12.865065	null	null	null	null	7.54133	12.940822	null	null	8.023696	14.304564	0.974682	0	0.079392	0.175676	0.001689	0.190878	0	0	0.111486	0	0.440878	null	null	null	null	null	null	null	null	null	53.047832
73,722	Shared	0.486991	null	null	null	null	0	0	0	0.825201	0.698079	0.489983	0.951779	0.977203	1.052047	1.073555	0	0	0	0	0	0	0	0	0	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	0
73,723	Other	0.177062	0.189199	0	0.683885	0.316115	0.005561	0.019383	0.004767	0.062408	-0.188267	0.384077	0.445302	1.257471	0.607569	0.790946	0.00204	0.012267	0	0	0.004778	0.140674	0.000402	0	0.022948	null	null	null	null	null	null	null	null	null	null	10.645442	32.255306	10.606842	46.39754	null	null	8.998444	30.694727	11.3503	46.39754	null	null	null	null	null	null	9.109854	21.570015	10.874246	32.255306	null	null	null	null	6.57202	7.762627	null	null	9.001076	26.239246	0.810801	0	0	0	0.029834	0.878269	0	0	0.001657	0	0.090239	0.033233	0.958819	0.03466	0.112498	2.078809	0.054117	0.123631	2.037627	0.060674	51.664921
73,724	Shared	0.477245	0	0	0	1	0.000001	0	0.000001	0.862665	0.917159	0.49737	1.019439	1.068046	1.063067	1.068687	0.000001	0	0	0	0	0	0	0	0	null	null	null	null	null	null	null	null	null	null	null	null	6.825397	7.298906	null	null	6.825397	7.298906	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	1	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	7.631647
73,725	Shared	0.479116	0	0	0	1	0.000002	0	0.000002	0.903898	0.689637	0.496861	1.039649	1.084966	1.124122	1.131223	0.000003	0	0	0	0	0	0	0	0	null	null	null	null	null	null	null	null	null	null	null	null	52.081113	131.78148	null	null	52.081113	131.78148	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	1	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	131.781479
73,726	Shared	0.517249	0	0	0.97619	0.02381	0.000008	0	0.000009	0.543453	0.756089	0.520996	0.950525	0.917733	1.232147	1.180407	0	0.000032	0	0	0	0	0	0	0	null	null	null	null	null	null	null	null	null	null	null	null	104.276835	109.46227	null	null	5.961535	5.961536	106.674769	109.46227	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	1	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	null	109.462273
73,727	Other	0.376396	0.004107	0	0.349794	0.650206	0.000189	0.000014	0.000199	0.806979	0.531584	0.518975	0.867036	1.151762	0.797878	0.767599	0.000175	0.000262	0	0	0.000059	0	0	0.000094	0	null	null	null	null	null	null	null	null	null	null	8.310519	11.107636	21.219891	76.1946	null	null	23.81558	69.26592	16.315325	76.1946	null	null	null	null	null	null	8.939506	11.107636	null	null	null	null	null	null	null	null	7.681531	8.108799	null	null	0.995893	0	0	0	0.5	0	0	0	0	0.5	0	null	null	null	null	null	null	null	null	null	76.194603

Subsets and Splits

No community queries yet

The top public SQL queries from the community will appear here once available.