Edge0がストレージから重みをストリーミングする35Bモデルのランタイムをオープンソース化
Samuel Zengは、Edge0はiPhone上で1-2.5 GBで動作すると述べていますが、公開されているMLXコードは現在Apple Silicon Macsをサポートしています。
By Ryan Merket · Published

Samuel Zengは、Edge0はiPhone上で1-2.5 GBで動作すると述べていますが、公開されているMLXコードは現在Apple Silicon Macsをサポートしています。