Tseng begann mit fünf Jahren Tennis zu spielen und sein Idol ist der Japaner Kei Nishikori.[1] Im November 2017 wurde Tseng, der von seinem Vater trainiert wird, Asiatisch-Ozeanischer Meister der Junioren, nachdem er im Finale den Südkoreaner Park Ui-sung geschlagen hatte.[2] Als Juniorenspieler erreichte er am 11. Juni 2018 seine höchste Platzierung mit Platz eins der ITF-Junioren-Weltrangliste, nachdem er das Juniorenturnier der French Open gewonnen hatte. Im selben Jahr gewann er auch die Konkurrenz von Wimbledon und erreichte das Finale der Australian Open. Damit erreichte er 2018 als erster Spieler seit Gaël Monfils im Jahr 2004 das Finale von drei Grand-Slam-Turnieren der Junioren.[3] Bei den US Open scheiterte er ein Match früher im Halbfinale an Thiago Seyboth Wild.
Seine höchste Platzierung in der Weltrangliste der Profis erreichte Tseng am 17. September 2018 mit Platz 473, nachdem er bereits drei Turniere der ITF Future Tour gewonnen hatte. Tseng ist zudem seit 2018 Teil der taiwanischen Davis-Cup-Mannschaft. Sein Debüt gab er am 4. Februar 2018 in der Kontinentalgruppe II im Playoff-Spiel gegen den Libanon. Er gewann sein Match gegen Michael Saade in zwei Sätzen mit 6:0 und 6:0.