Ο Κώστας Γαβρόγλου γεννήθηκε το 1947 στην Κωνσταντινούπολη, όπου και ολοκλήρωσε τις εγκύκλιες σπουδές του. Στη συνέχεια φοίτησε στην Αγγλία, στα Πανεπιστήμια Lancaster, Cambridge και στο Πανεπιστήμιο του Λονδίνου (Imperial College) από όπου και έλαβε το διδακτορικό του στη θεωρητική φυσική. Εργάστηκε στο Πολιτειακό Πανεπιστήμιο της Νέας Υόρκης, στα πανεπιστήμια Βοστόνης, Harvard, MIT, Cambridge, Pennsylvania , Istanbul Technical University και στο ΕΜΠ. Ήταν επισκέπτης ερευνητής στο Max Planck Institute for the History of Science, στο Dibner Institute for the History of Science και στο Centre Alexandre Koyre.
Σήμερα είναι ομότιμος καθηγητής ιστορίας των επιστημών του Πανεπιστημίου Αθηνών. Διετέλεσε επί σειρά ετών Πρόεδρος της Διοικούσας Επιτροπής του Ιστορικού Αρχείου του Πανεπιστημίου Αθηνών. Έχει συμμετάσχει σε πολλά ευρωπαϊκά ερευνητικά προγράμματα και είναι ιδρυτικό μέλος του Κέντρου Έρευνας για τις Ανθρωπιστικές Επιστήμες. Τα ερευνητικά του ενδιαφέροντα περιλαμβάνουν την ιστορία της φυσικής και της χημείας του 19ου και 20ου αιώνα, και ειδικότερα την εξέλιξη της φυσικής και της τεχνολογίας του τεχνητού ψύχους όπως, επίσης, και την εξέλιξη της κβαντικής χημείας.
Έχει μελετήσει τη διάδοση των επιστημών στην Ευρωπαϊκή Περιφέρεια στη διάρκεια του 18ου αιώνα, τη σχέση επιστήμης και θρησκείας του 17ου αιώνα, όπως και την ιστορία των ευρωπαϊκών πανεπιστημίων του 20ου αιώνα. Πρόσφατα εργάζεται πάνω στις συνέπειες της ψηφιακής συνθήκης στα πανεπιστήμια.
Το 2020 έλαβε το βραβείο Gustav Neuenschwander της Ευρωπαϊκής Εταιρείας Ιστορίας των Επιστημών για το σύνολο του έργου του. Το 2015 εκλέχθηκε βουλευτής Επικρατείας του ΣΥ.ΡΙΖ.Α. και την περίοδο 2016-2019 διετέλεσε Υπουργός Παιδείας, Έρευνας και Θρησκευμάτων. Είναι μέλος του Επιστημονικού Συμβουλίου του Ινστιτούτου Αλέξη Τσίπρα.