Ton professeur a raison. Si, comme il est dit dans cette réponse dont et duquel sont souvent interchangeables, ce n’est pas toujours le cas. Je ne vais pas répéter ce qui a déjà été dit par ailleurs mais me contenter de dire pourquoi l’emploi de dont n’est pas possible dans la phrase :

Ils aiment longer le fleuve sur les bords duquel poussaient des roseaux.

Après une locution prépositive on n’emploie pas dont mais duquel (desquels, de laquelle, desquelles). Une locution prépositive est composée d’une ou de deux prépositions et d’un nom, d’un verbe ou d’un adverbe. Sur les bords de est une locution prépositive. Il existe beaucoup de locutions prépositives, sur cette page tu en trouveras une liste partielle mais une fois que tu auras compris ce que c’est tu les reconnaîtras.

Quelques autres exemples de phrases où l’emploi d’une locution prépositive entraîne l’emploi de duquel ou d’un de ses dérivés.

• Je vais te présenter les amis avec l’aide desquels j’ai pu finir de rénover le jardin.

• Nous allons fixer la date à partir de laquelle le bureau sera définitivement fermé.

• Voici la colline en haut de laquelle les cyclistes ont fait une pause.
• Les étudiants à l’intention desquels ce livre est écrit en apprécieront la clarté des exposés et la fluidité de la rédaction.