Überspringen und zum Inhalt gehen →

jentsch.io Beiträge

Mit dem Milk-V Duo einen PWM-Lüfter steuern

Mein Jetson Orin hat seit einigen Monaten seinen Platz bei mir gefunden und läuft aktuell quasi permanent auf 65W und macht das Finetuning für diverse LLMs dabei wird er in dem Schrank leider sehr warm und die Wärme muss irgendwie aus dem Schrank raus. Noctua NF-A6x25 5V PWM-Lüfter Also habe ich mir einen Noctua NF-A6x25 5V PWM-Lüfter bestellt, um die Luft im Schrank etwas abzukühlen. Das Ziel ist es, die RPM des Lüfters über das PWM-Signal des Milk-V Duo zu steuern. Lüfter Der Noctua NF-A6x25 5V PWM-Lüfter ist ein 5Volt Lüfter, der auch bei hohen Drehzahlen noch sehr leise ist (19,3 dB(A)) und relativ wenig Strom (260mA) benötigt. Laut des WhitePapers kann man die Drehzahl über ein PWM-Signal steuern und…

Kommentare geschlossen

JavaDoc Dokumentation mit einem Large Language Model erstellen

Die Erstellung von JavaDoc-Dokumentation ist ein oft vernachlässigter Bestandteil der Softwareentwicklung. Eine gute JavaDoc Dokumentation ermöglicht eine bessere Zusammenarbeit im Team, eine klarere und verständlichere Codebasis und kann auch bei der Realisierung eines KI basierten Code-Assistenten helfen (dazu aber in einem anderen Beitrag mehr). Hier werde ich mich damit befassen, wie ein Large Language Model (LLM) bei der Erstellung von JavaDoc-Dokumentation behilflich sein kann. Dabei werde ich verschiedene Modelle miteinander verglichen, um ihre Vor- und Nachteile zu beleuchten. Was ist JavaDoc? JavaDoc ist ein Tool, das Teil des Java Development Kits (JDK) ist. Es ermöglicht Entwicklern, automatisch eine Dokumentation aus dem Java-Quellcode zu generieren. Durch die Hinzufügung von speziellen Kommentaren (tags) im Code können Entwickler die Struktur ihrer Software dokumentieren,…

Kommentare geschlossen

Win funktionieren LangChain Document Embeddings

LangChain ist ein Open Source Python (und wohl auch JavaScript) Framework, das die Erstellung von Anwendungen mit großen Sprachmodellen (LLMs) vereinfachen soll. https://python.langchain.com/ Möchte man z.B. einen RAG (Retrieval-Augmented Generation) Anwendung mit einem Huggingface Model erstellen, kann einem die LangChain Bibliothek eine Menge Arbeit abnehmen. Neo4j Vektor Index erstellen und verwenden Neo4j ist eine Open-Source-Graph Datenbank mit integrierter Unterstützung für Vector-Similarity-Search. Damit ist es möglich, in einer Vektor Datenbank nach Vektoren (Embedding) zu suchen, die dem Suchvektor am ähnlichsten sind. Verfügt man uber einen Index mit sehr vielen Embeddings kann man z.B. den Prompt in ein Embedding-Vektor umwandeln und die Relevanten Texte aus dem Vektor-Index selektieren und einem LLM als Kontext mitgeben. Details dazu habe ich schon einem hier behandelt.…

Kommentare geschlossen

Milk-V Duo IP-Adresse ändern

Wird der Milk-V Duo über USB mit dem PC verbunden, kann man über einen USB-RNDIS Netzwerkadapter darauf zugreifen. IP 192.168.42.1 Die IP-Adresse des Milk-V Duo ist immer 192.168.42.1. Um diese IP-Adresse zu ändern, muss die Wunsch-IP-Adresse in die folgenden Dateien eingetragen werden. IP-Adresse ändern Zum Ändern der IP-Adresse meldet man sich per ssh auf dem Milk-V Duo an. Nun öffnet man die Datei /mnt/system/usb-rndis.sh mit einem Editor. Z.B. mit dem vi Editor. und ändert die IP-Adresse z.B. auf 192.168.43.1. Die gleiche IP-Adresse wird auch in der Datei /mnt/system/usb.sh eingetragen. Der Befehl „ifconfig usb0 192.168.42.1“ wird dazu verwendet, um die IP-Adresse des Netzwerkinterfaces usb0 auf 192.168.42.1 zu setzen. In der /etc/dnsmasq.conf sieht der geänderte Eintrag dann wie folgt aus. Die Datei…

Kommentare geschlossen

Training Transformer Results TheBloke/CodeLlama-7B-Instruct-fp16

Base_model: TheBloke/CodeLlama-7B-Instruct-fp16Training_data: javadoc_v0.1.json (1.3GB Apache Commons Javadoc Dataset) 20 Tage auf dem Jetson Orin 64GB über 2000 Steps trainiert. Training Loss Validation Loss Der 1te Versuch war erfolgreich. 🙂 Bleibt noch zu testen ob die Ergebnisse wirklich so gut sind …..

Kommentare geschlossen

Eröffnungskeynote des Gartner IT Symposium/Xpo „We Shape AI“

Mary Mesaglio, Gartner Distinguished VP Analyst, und Don Scheibenreif, Gartner Distinguished VP Analyst, geben Einblicke in die wichtigsten Erkenntnisse, die CIOs helfen, in dieser neuen Ära der Mensch-Maschine-Beziehungen und KI die Nase vorn zu haben. Die Keynote des Gartner IT Symposium/Xpo behandelt die Bedeutung von Künstlicher Intelligenz (KI) in der heutigen Zeit und wie diese neue Beziehung zwischen Menschen und Maschine uns prägt. Mary Mesaglio und Don Scheibenreif betonen, dass KI nicht nur eine Technologie ist, sondern einen tiefgreifenden Wandel in der Interaktion zwischen Mensch und Maschine darstellt. Das Video könnte man in die Liste der 11 Videos über AI die man gesehen haben sollte aufnehmen, aber dann währen es ja kein 11 mehr :-).

Kommentare geschlossen

Milk-V Duo – 5$ Linux Computer mit 1Ghz

Milk-V Duo ist eine ultrakompakte Embedded-Entwicklungsplattform auf der Basis des CV1800B-Chips. Sie kann Linux und RTOS ausführen und bietet eine zuverlässige, kostengünstige und leistungsstarke Plattform für Profis, industrielle ODMs, IoT-Enthusiasten, Heimwerker und Entwickler. Spezifikation Milk-V Duo Specification Prozessor CVITEK CV1800B (C906@1Ghz + C906@700MHz) RAM DDR2 64MB Flash 1x Mirco SD slot,1x SD NAND solder pad USB 1x Type-C for data and Power,1x USB2 solder pad Kamera 1x 16P FPC connector (MIPI CSI 2-lane) GPIO up to 26 Pins available for general purpose I/O(GPIO) Größe 21mm*51mm Details:https://milkv.io/docs/duo/overview Größe Hier mal ein Größenvergleich des Milk-V & Cam mit meiner Logitech Maus. Shop https://arace.tech/search?q=Milk-V+Duo&type=product https://milkv.io/ Ich habe mal direkt zugeschlagen und mich mal eingedeckt. Ein erster Test zeigt, dass der Energiebedarf mit ca.…

Kommentare geschlossen

Training Transformer Results

Base_model: TheBloke/CodeLlama-13B-Instruct-fp16Training_data: javadoc_v0.1.json (1.3GB Apache Commons Javadoc Dataset) Training Loss Validation Loss Der 4te Versuch war erfolgreich.

Kommentare geschlossen

11 Videos über AI die man gesehen haben sollte

Künstliche Intelligenz wird zu einem immer relevanteren Thema, das die Welt im Sturm erobert. Von bahnbrechenden wissenschaftlichen Fortschritten bis hin zu erstaunlichen Anwendungen in unserem täglichen Leben hat AI das Potenzial, die Grenzen des Menschlichen zu erweitern und die Zukunft unserer Gesellschaft zu gestalten. In diesem Blog-Beitrag stelle ich eine Liste von zehn Videos vor, die mich in den letzten Wochen und Monaten motiviert haben, mich noch tiefer in das Kaninchenloch zu begeben. Bei den Videos handelt es sich nicht um Technik-Videos zu diesen Themen, sondern eher um ganz allgemeine Videos, die man sich einfach mal in Ruhe ansehen sollte. Die Videos sind für Technologie-Enthusiasten, ein Entwickler, Unternehmer und Jeden, der Einblicke in die Welt der KI und ihrer faszinierenden…

Kommentare geschlossen