Ich mach' was mit Kommunikation und Marketing, bin Podcaster auf Entzug, bleibe immer Hundepapa im Herzen und Tabler mit Leidenschaft. Hier landet alles, was mir Spaß macht: Texte, Fotos, Experimente. Göttingen ist mein Zuhause, das Netz mein Spielplatz.
Zurück auf den Mond: Nach 50 Jahren startet morgen erstmals wieder eine bemannte Mission in Richtung Mond. Reid Wiseman, Victor Glover, Christina Koch und Jere
Vorwortliches Manchmal passieren Dinge einfach so, Schlag auf Schlag und man muss Entscheidungen treffen, die einem keine Zeit zum Nachdenken geben oder man hat schon lange vorher überlegt "was wäre wenn"- um dann doch mit der Situation überfordert zu sein. Was ist passiert? Anfänglich dachten wir, unser Hund hätte etwas schlechtes gefressen- früh war die
Large language models (LLMs) frequently generate hallucinations -- plausible but factually incorrect outputs -- undermining their reliability. While prior work has examined hallucinations from macroscopic perspectives such as training data and objectives, the underlying neuron-level mechanisms remain largely unexplored. In this paper, we conduct a systematic investigation into hallucination-associated neurons (H-Neurons) in LLMs from three perspectives: identification, behavioral impact, and origins. Regarding their identification, we demonstrate that a remarkably sparse subset of neurons (less than $0.1\%$ of total neurons) can reliably predict hallucination occurrences, with strong generalization across diverse scenarios. In terms of behavioral impact, controlled interventions reveal that these neurons are causally linked to over-compliance behaviors. Concerning their origins, we trace these neurons back to the pre-trained base models and find that these neurons remain predictive for hallucination detection, indicating they emerge during pre-training. Our findings bridge macroscopic behavioral patterns with microscopic neural mechanisms, offering insights for developing more reliable LLMs.
Niels Leenheer hat Doom in CSS (und ein bisschen JavaScript) nachgebaut: No, CSS is awesome. CSS is better than ever and it is only getting better. And that is why I built DOOM in CSS. Every wall…
Gelbe Zukunft: Die FDP sortiert sich nach zwei desaströsen Landtagswahlen neu. Präsidiumsmitglied Hans-Ulrich Rülke aus Baden-Württemberg wünscht sich einen echten Neuanfang. "Wir müssen uns von unserer Vergangenheit auf Bundesebene, insbesondere von der Ampel, mit einem ganz klaren Schnitt absetzen", sagt er dem "Spiegel". "Dabei darf es keine Denkverbote geben, bis hin zu einem neuen Namen." Wir hätten da einen Vorschlag: HÜFP, Abkürzung für: Hauptsache über fünf Prozent. spiegel.de (€)
Nextcloud und Ionos stellen für den Sommer eine moderne, quelloffene Office-Suite in Aussicht. Um dieses Ziel zu erreichen, haben sie OnlyOffice geforkt.
