Under sitt möte med president Jose Raul Mulino klargjorde Rubio "att staus quo inte är godtagbart", meddelar USA:s utrikesdepartement.
Landet menar att Panama bryter mot det avtal som tidigare presidenten Jimmy Carter undertecknade och som innebar att Panama 1999 fick full kontroll över kanalen genom landet.
USA hävdar bland annat att Kina har fått kontroll över den viktiga kanalen, vilket enligt såväl Rubio som president Donald Trump utgör en fara för kanalen och USA:s intressen.
"Det är oacceptabelt och om inga omedelbara förändringar görs kommer USA att vidta nödvändiga åtgärder", sade Rubio enligt UD till Mulino.
Presidenten å sin sida säger att han föreslagit samtal på lägre nivå för att "skingra alla eventuella frågetecken Trump har om kinesiskt inflytande".
På en presskonferens säger han också att han inte ser något hot mot kanalen.
Jag ser inte att det just nu finns något hot mot avtalet eller dess giltighet och ännu mindre att det finns behov av en militär insats för att säkra kanalen.
Donald Trump har hotat med en militär insats för att återta kontrollen över kanalen eftersom han anser att amerikanska fartyg som passerar den får betala "löjliga" avgifter.
I sitt installationstal i januari sade han:
Kina styr Panamakanalen men vi gav den inte till Kina, vi gav den till Panama och vi ska ta tillbaka den.