@syncron
Das ist, nach dem, was Du geschildert und getestet hast, mE kein Problem, das mit Deiner Fritzbox oder WLAN zu tun hat.
Wie ist Dein routing vom Quellgerät zum NAS?
Wenn Tailscale im Spiel ist und Samba, würde ich zuerst 2 Dinge prüfen:
1) Samba:
Wie hast du Samba auf dem NAS konfiguriert? Multichannel und wenn ja, welche, ggf. zum Quellgerät passende Version?
Solange du das NAS übrigens nicht über mehrere physische Ports gleichzeitig an einem Switch hängen hast, bringt dir Multichannel nix und du kannst es ausschalten und eine pot. Fehlerquelle von vorneherein ausschließen (die Sambaversionen sollten aber trotzdem zusammenpassen).
2) Tailscale und da insbes. subnet routing von/mit Tailscale:
Egal, ob Dein NAS Tailscale an hat oder nicht, wenn der Sender Deiner Daten ein Tailnet client ist und Du bei einem Deiner Tailnet clients eine subnet route für dein Heimnetz (oder einen Teil davon) definiert hast, laufen die Daten von dem Tailnet Quellclient (in deinem Heimnetz) zum NAS (in Deinem Heimnetz) unter Umständen über einen Tailscale server außerhalb Deines Heimnetzes, also von Deinem Tailnet Quellclient (über die Fritzbox) raus ins Netz zu diesem Tailscale server und dann von diesem Tailscale server wieder (über die Fritzbox) rein zur eigentlichen Zieladresse in Deinem Heimnetz (ein Tailnet client oder ein device, das über Tailscale subnet routing aus Deinem Tailnet erreichbar ist).
Dann ist Deine Internet-Anbindung (und da dann vermutlich die max. upload rate wenn du keinen symmetrischen Internetzugang hast) der limitierende Faktor für die Geschwindigkeit dieser Datenübertragung.
Das gilt erst recht, wenn sowohl der Sender als auch der Empfänger Tailnet clients im gleichen Tailnet sind.
Bei dir könnte es sein, dass der eine Mac Tailnet client ist und der andere nicht, was dann bei routing ggf. über einen externen Tailscale server das unterschiedliche Verhalten erklären würde.
Und ungewolltes externes Tailscale routing würde auch erklären, warum Deine Internet Speedtests ok sind und trotzdem Datentransfers im Heimnetz langsam, wenn mindestens einer der Partner ein Tailnet client ist.
Wenn Du sicher sein willst, dass solche Tailscale Effekte bei Datentransfers innerhalb Deines Heimnetzes nicht auftreten (weil du Doppel NAT, oder anderes exotisches routing ins und im Heimnetz hast), solltest Du
- entweder für den spezifischen umfangreichen Datenverkehr jeweils vorher manuell sowohl beim Sender als auch beim Empfänger Tailscale ausschalten (das wäre dann vermutlich nur bei stationären Geräten sinnvoll und lästig)
- oder bei mobilen Geräten (die also auch außerhalb deines Heimnetzes genutzt werden, wie z.B. laptops und da macht Tailscale ja eigentlich erst Sinn), die Tailnet clients sind, vorgeben, dass sie in Deinem Heimnetz generell nur routes über Ethernet und/oder WLAN zulassen oder mit anderen Mitteln (pfsense, openwrt etc.) für Dein Heimnetz generell sicherstellen, dass die lokalen routes vor allen anderen routes (wie sie z.B. mit Tailscale möglich sind) priorisiert werden.
Sowohl unter Windows als auch unter Linux kann man Samba explizit entsprechend konfigurieren. Vermutlich auch auf MACs.
Hoffe, das hilft, Dein Problem zumindest einzukreisen.